github.devotd.
새 소식보안

nvidia-nemo/guardrails v0.24.1 — LLM 대화용 가드레일 도구

nvidia-nemo/guardrails 최신 릴리스 v0.24.1과, 입력·출력·검색·도구 실행 단계에 정책을 적용해 에이전트 동작을 제한하는 가드레일 구조를 다룬다.

저장소 정보nvidia-nemo/guardrails ↗

nvidia-nemo/guardrails 최신 릴리스 v0.24.1과, 입력·출력·검색·도구 실행 단계에 정책을 적용해 에이전트 동작을 제한하는 가드레일 구조를 다룬다.

GitHub 설명: NeMo Guardrails is an open-source toolkit for easily adding programmable guardrails to LLM-based conversational systems.

스타
★ 7.3K
포크
876
언어
Python
라이선스
NOASSERTION
최신 릴리스
v0.24.1
원문 보기 ↗GitHub에서 보기 ↗

GitHub의 nvidia-nemo/guardrails는 NVIDIA의 NeMo Guardrails로, LLM 기반 대화 애플리케이션에 프로그래밍 가능한 가드레일을 추가하는 오픈소스 도구다. 이 저장소의 최신 릴리스는 v0.24.1이며 주된 언어는 파이썬이다. 다만 제공된 자료에는 이 릴리스의 변경 내역이 없어 새로 들어갔거나 바뀐 항목은 확인할 수 없다.

핵심은 정책이 걸리는 지점이다. 입력과 출력뿐 아니라 검색 단계와 도구 실행 단계에도 규칙을 적용해, 런타임에 에이전트가 무엇을 검색하고 무엇을 실행하는지 제한한다. README는 주제 제한, 미리 정해진 대화 경로, 구조화된 데이터 추출, 취약점 방어를 설정할 수 있다고 설명한다. 어떤 주제를 다룰지, 어떤 대화를 허용할지, 응답에서 어떤 데이터를 뽑을지를 정하는 수단을 함께 준다. 파이썬 API와 가드레일 서버를 제공하며 대화 흐름은 Colang으로 설계한다. 별 수는 7333개이고 저장소는 2023년 4월 18일 생성됐다.

판단을 내리기는 이르다. 라이선스 필드는 NOASSERTION으로만 기록돼 있어 실제 사용 조건은 이 자료로 확인할 수 없다. 평가 점수도 모멘텀 3.4만 남아 있고 신규성·기술·품질 항목은 비어 있으며, 성능 측정이나 벤치마크는 제시되지 않는다. 기능 범위와 릴리스별 개선을 아직 비교할 수 없다는 뜻이다. 라이선스 조건과 이번 릴리스의 변경 내역을 먼저 확인하기 전에는 적용 여부를 판단하기 어렵다.