cobanov/ps5lm は、ジェイルブレイク済みの PS5 で llama.cpp を使って GGUF モデルを実行し、ネットワーク上に提供するプライベートモデルサーバーです。最新リリースは v0.9.1 です。公開されている FACTS にはこのバージョンで何が変更されたかが具体的に記されていないため、変更点は確認できません。プロジェクトは C++ で書かれ、GPL-3.0 ライセンスで公開されています。
このプロジェクトは PS5 の RDNA 2 GPU で Vulkan バックエンドを使用します。Vulkan は、グラフィックスデバイスに接続して演算を行わせるソフトウェア経路です。実行したモデルは、OpenAI・Anthropic 互換 API とブラウザチャットを通じて、ノートパソコン、モバイル端末、コーディングツールから利用できます。画面にはリクエストとレスポンス、ホストの状態が表示され、画像入力にも対応します。Ollaya のような意思決定モデル向けの `/v1/systemone` API も提供します。ドキュメントによれば、実行中に PC もクラウドもアカウントも不要です。
モデルとコンテキストは PS5 の共有メモリ 11.4GB を一緒に使い、メモリに合わせてモデルとキャッシュを選ぶ機能がドキュメントで説明されています。公開情報で確認できる違いは、独自の推論アルゴリズムではなく、コンソール移植とモデルサーバーの組み合わせにあります。ドキュメントに記載された処理速度は作者自身の測定であり、独立に再現された結果ではありません。現在のコード全体と性能はいずれも検証されていないため、性能評価ではなく、PS5 でモデルサーバーを構築する事例として読むのが適切です。