github.devotd.
새 소식추론/서빙

nandhakishorm/laya v0.4.9 — 비자기회귀 결정 엔진

nandhakishorm/laya의 v0.4.9와 선택·점수·예 아니오 판정을 수행하는 엔진의 지원 범위 및 공개된 한계를 살펴본다.

저장소 정보nandhakishorm/laya ↗

Non-autoregressive System 1 decision engine. Typed choice, score and yes/no decisions over any text in a single forward pass, in 100+ languages, with a router that picks the right checkpoint per request.

스타
★ 33.3K
포크
3K
언어
Python
라이선스
Apache-2.0
최신 릴리스
v0.4.11
원문 보기 ↗GitHub에서 보기 ↗

nandhakishorm/laya는 텍스트를 바탕으로 선택지 고르기, 점수 산정, 예·아니오 판정을 한 번의 순방향 패스로 수행하는 비자기회귀 결정 엔진이다. 최신 릴리스는 v0.4.9다. 제공된 자료에는 이 버전에서 무엇이 바뀌었는지 나와 있지 않다. 저장소는 Python으로 작성됐고 Apache-2.0 라이선스를 사용한다.

문장을 이어 생성하는 대신 정해진 유형의 판단 결과를 내는 방식이 핵심이다. 프로젝트 설명에 따르면 100개 이상 언어를 지원하며, 요청에 맞는 체크포인트를 고르는 라우터를 포함한다. README 요약은 엄밀히 적절한 점수 규칙(RLCD)에 맞춘 강화학습으로 학습했다고 설명한다. T4에서 질문 1개당 p50 32.8밀리초라는 수치도 제시하지만, 이는 자체 측정치다. 따라서 생성 모델을 대체한다기보다 선택이나 분류처럼 답의 형태가 정해진 작업에 쓰는 도구에 가깝다.

README가 밝힌 한계도 뚜렷하다. 입력이 4천 토큰을 넘으면 정확도가 20문항 중 8~17로 흔들리고, MASSIVE 벤치마크에서 다국어 모델의 매크로 정확도는 0.40이다. typed-decisions 0.766은 커밋된 결과 파일이 없는 파인튜닝 체크포인트의 수치다. 그러므로 긴 입력이나 다국어 성능을 이 수치만으로 판단하기는 어렵다.