ollama/ollama v0.40.5 — ローカル/クラウドのモデルランタイム
ollama/ollama はオープンモデルをローカルまたはクラウドで実行し、各種ツールと接続するランタイムサーバーだ。
CURATED OPEN SOURCE INTELLIGENCE
ollama/ollama はオープンモデルをローカルまたはクラウドで実行し、各種ツールと接続するランタイムサーバーだ。
fesens/opentpu は AI エージェントが設計したオープンソース AI アクセラレーターで、ハードウェアからコンパイラまでをひとつのリポジトリにまとめ、Kintex-7 カードでの実行結果を示しています。
l-forster/open-jet はローカルモデル向けのオフラインコーディングエージェントと Qwen3.8-27B 用の CUDA 推論エンジンを提供し、最新リリースは v0.5.0 です。
Strata を拡張した C++ エンジン Xolotl は複数の大規模モデルを OpenAI・Anthropic 互換サーバーで提供し、README は RTX 4090 での DeepSeek-V4.1-Flash 552B の decode 速度を 26.8 tok/s としている。
niko1221/strata v0.1.45 は Qwen3.6-35B-A3B の画像入力と最大 8 件までの同時リクエストに対応し、性能上の利得は空き VRAM に応じて変わる。
alexsjones/llmfit v1.1.17 は、ハードウェアに合った言語モデルを提案し、実測ベンチマークを共有する Rust コマンドラインツールです。
llama.cpp b11700 は Granite Switch 系モデルの decision 変換とサポート経路を追加した。
sno-ai/sno-station は、複数のコーディングエージェントが暗号化されたメモリを共有して作業を受け渡す ローカル実行ハーネスである。
llama.cpp nightly b11683 は、Vulkan バックエンドのホストメモリのインポート失敗ログと AMD のバッファ共有経路を修正したビルドである。
antirez/ds4は、一部のモデルをMetal・CUDA・ROCm上で実行するCベースのローカル推論エンジンです。
写真、PDF、文書、録音、映像、コードの内容をもとにパソコンを検索する DigUp が、v0.7.0-beta.1 で初めて Windows と Linux に対応した。
magnitudedev/magnitude は、ハードウェアに合わせてカーネルをチューニングし、モデル推論に用いる Rust ベースのオープンソースエンジンです。
nousresearch/hermes-agent v0.22.2 は、不正なコミットでビルドされた v0.22.1 を置き換え、ゲートウェイの起動問題とノートPCのローカルモデル会話のリトライ動作を修正したリリースです。
tigerless-labs/agent-memory の Markdown ストレージ方式と、エージェント長期記憶の検索構造を説明する。
flashml-org/freetoken がエッジハードウェアで大規模な MoE モデルをサービングするために提供する機能と、そのパフォーマンス情報の限界を紹介する。
Strata v0.1.44.1 は旧型 CPU での SIGILL エラー、ビルド問題、サーバーのクラッシュ時の再試行動作を修正した。
ggml-org/llama.cpp の b11630 は、変更内容がコミットメッセージの水準でのみ説明されているデイリービルドの自動リリースである。
該当するニュースはありません。