yibie/strata-mlx는 Apple Silicon에서 Qwen3.8-Flash-Next를 Strata의 GGUF 파일로 읽어 line protocol을 따르는 비공식 MLX 엔진이다. 2026년 10월 23일 커밋 94817fd는 대화 파킹(conversation parking)을 기본으로 켜고, 다른 클라이언트의 짧은 요청이 대화 슬롯을 차지하지 않도록 `--conversation-cache-min-tokens`를 256으로 정했다.
이 엔진은 대화 전체를 한 번 읽고 다음 턴에는 새로 늘어난 토큰만 읽는다. 문제는 다른 클라이언트의 요청이 끼어들면 그 대화가 잘려, 매 턴마다 전체 프롬프트를 다시 읽게 된다는 점이었다. 이슈 12를 정리한 jerry727의 측정에 따르면 96 GB M2 Max(macOS 27.0.1, MLX 0.32.3, Q2_0)에서 웹 채팅 옆에 다른 클라이언트가 붙어 있을 때 38,313 토큰짜리 대화의 매 턴에 121초가 걸렸다. 같은 대화만 이어가면 39,940 토큰에 31 토큰만 읽고 0.4초였다.
그래서 `--conversation-cache-mib` 기본값이 auto로 바뀌었다. 모델과 float가 통째로 메모리에 올라 있고 4 GiB가 남는 곳에서는 4,096 MiB를 쓰고, expert에서 빼와야 하는 곳에서는 0 MiB이며 `--check`가 어느 쪽인지 알려준다. 64 GB Mac에서는 Q2_0이 파킹되고 IQ3_S는 되지 않는다. 슬롯은 4개이고 256 토큰 미만 요청은 슬롯을 건드리지 않는다.
다만 아직 남은 것도 있다. 256 토큰을 넘는 요청이 네 번 이상 끼면 슬롯은 여전히 크기와 상관없이 가장 오래된 대화를 비우므로, 가장 작은 대화가 먼저 나가야 한다는 의도는 반영되지 않았다. 파킹된 대화는 재시작을 넘어 남지 않고, SSD에서 expert를 읽어 오는 Mac은 기본적으로 아무것도 파킹하지 않는다. 파킹한 대화와 그 시작 복사본이 시작 시점의 캐시를 두 번 드는 문제(2,760 토큰 기준 83 MB)도 남아 있다. 4,096 MiB 기본값을 실제로 확인한 사례는 이슈 8의 64 GB M5 Pro + Q2_0 한 건뿐이고 swap은 없었다. 위 수치는 모두 제보자의 측정값으로 ISSUES.md와 ROADMAP.md에 기록돼 있다.