nvidia/garak은 LLM과 대화 시스템이 원치 않는 방식으로 실패하는지 확인하는 무료 명령줄 도구다. 저장소 설명은 이 도구를 LLM 취약점 스캐너로 정의하고, 공개된 최신 릴리스는 v0.17.1이다. 다만 이번 기록에는 v0.17.1의 변경 항목이 남아 있지 않아 새로 들어온 기능은 확인할 수 없다.
garak의 이름은 Generative AI Red-teaming & Assessment Kit의 약자다. 공격용 프로브와 탐지기(detector)를 조합해 정적·동적·적응형(static, dynamic, adaptive) 프로브(probe)로 모델을 시험하고, 탐지기가 응답을 판정한다. 검사 항목은 환각, 데이터 유출, 프롬프트 인젝션, 오정보, 유해성 생성, 탈옥(jailbreak) 등이다. 유해 출력과 정보 누출, 프롬프트 취약성을 함께 겨눈다. 파이썬으로 작성되었고 Apache-2.0 라이선스로 공개되며, 저장소의 스타 수는 9627이다. 저장소는 2023년 5월 10일 만들어졌다.
다만 탐지 정확도를 비교할 벤치마크나 독립 평가는 주어지지 않았다. 이 기록에서 확인되는 수치는 모멘텀 4.4뿐이고 신선함·기술·품질 점수는 산출되지 않았다. 검사 항목은 많지만 정확도에 대한 근거는 남아 있지 않다. 실제 탐지 성능은 별도로 확인해야 한다.