fronteagle739/streaming-llama-stack은 llama.cpp 포크를 바탕으로 한 C언어 추론 스택이다. README는 NVMe에서 가중치를 스트리밍해 RTX 5090의 32 GiB 그래픽 메모리로 483 GiB급 모델을 실행하는 구성을 설명한다. 저장소 설명도 빠른 SSD 배열을 활용하는 저메모리 시스템용 스트리밍·분산 추론을 용도로 든다. 이번에 소개하는 내용은 저장소 README에 제시된 구성과 기능이며, FACTS에 공개된 정식 릴리스 버전은 없다.
이 구성은 모델 가중치 전체를 그래픽 메모리에 올리는 대신 NVMe에서 스트리밍하는 방식으로 큰 모델 추론을 다룬다. README에는 프롬프트를 처리하는 스트리밍 프리필과 DeepSeek V4.1 Flash용 디코드 커널이 기재돼 있다. OpenAI 호환 API와 MCP 도구, 웹 인터페이스도 함께 포함한다. 선택적으로 Mac Studio와 프리필·디코드 작업을 나누는 구성도 설명한다. 따라서 단일 추론 커널이 아니라 실행 경로와 호출 수단을 함께 묶은 스택에 가깝다. 라이선스는 MIT이며 저장소 언어는 C로 표시돼 있다.
README의 성능 표는 텍스트 기반 측정 결과와 장비 구성을 함께 제시하고, 네트워크 연결과 메모리의 제약도 공개한다. 이는 특정 구성에 대한 기록이지 다른 장비에서 같은 결과가 난다는 근거는 아니다. 저장소는 2026-10-25에 생성됐고 FACTS에 기록된 별 수는 6개다. 정식 릴리스도 등록돼 있지 않다. README가 실험적 구성으로 설명하는 만큼, 현재 확인되는 범위는 제시된 실행 경로와 측정 환경까지다.