guardrails-ai/guardrails는 대규모 언어 모델(LLM)의 입력과 출력에 가드를 실행해 제약 조건을 거는 Python 프레임워크다. 요청을 모델에 넘기기 전과 답이 나온 뒤에 각각 Input/Output Guard를 실행해 위험을 탐지하고 정량화한 다음 완화한다. Apache-2.0 라이선스로 배포되며, 저장소의 최신 릴리스는 v0.11.0이다.
이 프레임워크의 목적은 신뢰할 수 있는 AI 애플리케이션을 구축하는 일이다. 모델 응답을 그대로 서비스에 내보내는 대신 형식 제약과 콘텐츠 제약을 실행 경로 중간에 적용한다. 검증 실패를 다루는 처리 경로도 함께 둔다. Guardrails Hub의 여러 validator를 결합할 수 있고, LLM 출력에서 구조화된 데이터를 생성하도록 돕는다. 독점 LLM과 오픈소스 LLM을 지원하며 Python과 JavaScript에서 사용할 수 있다. 저장소는 2023년 1월 29일 만들어졌고 GitHub 별 수는 7543개다.
다만 v0.11.0의 릴리스 노트와 변경 내역은 자료에 없어 이번 버전이 무엇을 바꿨는지는 알 수 없다. 위험을 얼마나 잘 탐지하는지에 대한 비교 수치도 없다. 저장소 설명은 LLM에 가드레일을 붙인다는 한 문장뿐이다. 연구 기록에는 모멘텀 점수 3.2만 있고 신규성·기술·품질 점수는 주어지지 않는다. Apache-2.0 라이선스라 검토를 시작하기는 수월하지만, 이번 버전이 무엇을 바꿨는지 확인되기 전에는 도입을 결정할 근거가 부족하다.