generated-computers/locals は、oltzの説明に「Mac で複数の AI エージェントを同時に、約 3 倍速く実行」と書かれたローカル実行ツールである。2026 年 11 月 5 日のコミット 653394a は、プロンプトチャンクがキャッシュバッファのコピーに書き込まれていた問題を修正した。
原因は MLX のバッファ所有方式にある。mx.eval は最後のコマンドバッファのシグナルで返るが、コマンドバッファが読み込んだ配列は、MLX の完了ハンドラで後になって別スレッドによりアンロックされる。その間にチャンクがキャッシュバッファへ書き込むと、アドレスが変わったバッファ全体のコピーへ書きこまれてしまう。GPU がそのチャンクを捨てた後、_rewind はその地点からの再読み込みを拒否した。修正は短い。locals/hybrid_batch.py の _read_chunk が、各試行の直前に mx.synchronize を 1 度呼び出して、バッファが空になるまで待つ。
待機時間は約 30 マイクロ秒で、プロンプト読み込み速度は変わらないと、エンジンドキュメント（docs/engine/README.md）は述べている。macOS ウォッチドッグによる GPU ドロップを再現するテストは、もともと GitHub ランナー上で MLX バッファ複写のためスキップされていたが、このコミットでスキップ制約が取り除かれて再び実行される。ドロップを再現するコードもバッファを壊す前にまず同期し、eval 直後にチャンクを書き込む新しいテストも追加された。
数値はすべてプロジェクト文書に記載された値である。プロセス 16 個を動かす M2 Pro で、13 チャンクを 60 回読むと 7〜15 回はコピーに当たり、マークを使わない場合は 60 回中 3〜4 回だった。待機後は 600 回中 0 回であり、Qwen3.5-4B は 256 トークン単位で 4,096 トークンを読み、毎秒 576 トークンで待機前後とも同じであった。CHANGELOG ではこの修正は 0.2.3 において未公開のまま残っており、直前のバージョン 0.2.2 は 2026 年 11 月 4 日にリリースされた。ライセンスとスター数は示されていない。範囲は狭く、Mac の MLX 経路で現れるバッファ所有権の競合 1 件に限られ、速度が維持されているという根拠は開発者側の測定のみである。別の GPU 環境で同じ問題が生じるかどうかは、この資料だけでは判断しにくい。