haochenglu/pi-attn은 배치 처리와 접두사 캐시, 청크 분할을 적용한 상태에서도 결과를 재현하려는 언어 모델 서빙 엔진이다. 저장소 설명은 최적화를 켠 상태에서 비트 단위 재현성을 목표로 한다고 밝힌다. 최신 릴리스 정보는 없으므로 특정 버전의 출시나 변경 사항을 가리킬 수는 없다. 저장소 이름과 함께 공개된 프로젝트 설명을 기준으로 살펴볼 만한 발견이다.
비트 단위 재현성은 같은 입력에 대해 계산 결과가 비트 단위로 일치하는 성질이다. PI-Attn은 부동소수점 연산 순서를 고정해 배치 처리나 캐시가 결과에 영향을 주지 않도록 설계한다. 동시에 연산을 나누는 방식이 빠른 커널의 형태에 맞도록 구성한다. 저장소에는 Rust 실행 엔진과 주의(attention) 연산 커널이 있으며, 학습기 재현 검증과 호환 서버 검사 도구도 포함된다. 논문, 결과 파일, 자동 평가 스크립트가 함께 제공돼 성능 및 재현성 주장을 살펴볼 자료를 한곳에 모았다.
다만 공개된 정보에는 정식 릴리스와 라이선스가 기재돼 있지 않다. 따라서 고정된 배포 버전이나 사용 허가 조건은 확인할 수 없다. 성능과 재현성에 관한 판단도 저장소에 포함된 논문과 결과, 평가 도구의 범위를 넘어서기 어렵다. 도입 전에는 해당 자료를 검토하고 배포 조건을 확인해야 하는 초기 단계의 프로젝트다.