professorpalmer/bonsai-ada-surgery의 bundle-20261018e 릴리스는 긴 대화의 전체 캐시 저장 시점을 응답 직후에서 유휴 시간으로 옮겼다. 대화가 이어지면 증분 저장 연결을 늘리고, 상한에 도달하면 전체 저장을 수행한다. 엔진 바이너리는 이전 묶음과 같으며, 저장 작업이 다음 요청을 막는 상황을 줄이는 데 초점을 둔 변경이다.
이 저장소는 Bonsai 2 27B 모델의 Windows 번들과 작업 기록(receipts)을 배포한다. 저장소 설명에 따르면 12 GB에서 262k 컨텍스트(학습 시 최댓값)를 지원하고, 디코딩 속도는 54에서 97 tok/s, 프리필은 2x다. q8_0 KV 설정과 문법 기반 도구 호출 9/9도 설명에 기재돼 있다. 가중치는 이전 묶음과 같은 삼진(ternary) 방식이다. 이 정보는 저장소가 제시한 구성과 수치이며, 이번 릴리스의 핵심은 모델이나 추론 엔진 변경이 아니라 저장 처리 방식이다.
이번 변경이 생성 속도를 높인다고 볼 근거는 주어지지 않았다. 전체 저장을 미루고 증분 저장을 늘리는 방식은 다음 요청을 막는 상황을 줄이는 데 맞춰져 있다. 다만 증분 저장 연결의 상한과 유휴 시간의 판정 기준은 주어지지 않아, 실제 저장 동작의 세부 조건은 이 정보만으로 판단하기 어렵다.