truespar/paddock는 오픈 모델용 네이티브 Rust 추론 서버다. 2026년 11월 5일 커밋 d8ee0629(메시지 'Flint on NVIDIA GPUs')는 Recursive의 Flint 모델을 이 서버에서 돌릴 수 있게 했다. README의 지원 모델 목록에 Flint가 추가됐고, 40B 규모에 활성 파라미터 2.5B, 코딩 에이전트용이라는 설명과 함께 텍스트 전용이며 Ada 이상의 NVIDIA GPU에서만 동작한다고 명시돼 있다.
이번 변경의 중심은 GPU 실행 경로다. 30개 파일에서 6845줄이 추가되고 648줄이 삭제됐으며, 새 파일 gpu_model/laguna/load_flint.rs(410줄)가 Flint 전용 모델 로더를 담고 있다. gpu/nvpf.rs, gpu/w16r.rs, gpu_model/laguna/nv.rs, gpu_model/laguna/attend.rs가 신설됐고, attention.rs에는 bf16 출력 prefill 어텐션 경로가 추가됐다. q 평면을 f32 또는 사전 스케일된 f16 중에서 고르는 PfQ 타입과 함께, 헤드 차원 128의 f16 풀을 쓰는 형태에서만 bf16 결과가 나오고 다른 형태에서는 기존 f32 호출을 유지하는 폴백이 들어갔다. batch_ops.rs에는 qk 정규화와 RoPE를 행 구간 단위로 수행하는 qk_norm_rope_batch_at이 추가됐고, models.toml에는 91줄, tests/gpu_flint.rs에는 1113줄이 늘었다.
다만 지원 범위는 선명하다. README 기준으로 Flint는 텍스트 전용이고 Ada 이상의 NVIDIA GPU가 전제여서 Apple Silicon 경로와 이미지 입력은 이 커밋이 다루지 않는다. 새로 붙은 bf16 prefill 경로도 조건부라 지원 형태 밖에서는 f32 경로로 되돌아간다. 성능 수치와 벤치마크 결과는 이 커밋에 포함되지 않았고 라이선스도 제시되지 않았다. 어느 정도의 속도와 정확도가 나오는지 판단하기는 이르므로, Ada 이상의 GPU를 준비한 경우에만 기대할 만해 보인다.