新着
ollama/ollama v0.40.5 — ローカル／クラウドのモデルランタイム
ollama/ollama はオープンモデルをローカルまたはクラウドで実行し、各種ツールと接続するランタイムサーバーだ。
CURATED OPEN SOURCE INTELLIGENCE
#llm-infra
新着
surya-koritala/glyd — bf16 重み・KV キャッシュの无损圧縮
surya-koritala/glyd の无损 GPU メモリ圧縮方式と、README に掲載された実測結果を確認する。
リリース
ashishsinha1602/schemagate v1.6.0 — 権限制限の通知を追加
ashishsinha1602/schemagate v1.6.0 は、権限で隠されたスキーマをモデルに通知し、根拠に欠けるクエリには INSUFFICIENT と回答するよう求めるリリースです。
新着
srkrz23/vramkit — 重みと KV キャッシュの二本立て VRAM 圧縮
srkrz23/vramkit は、無損失の重みコーデックと、K と V に異なる量子化軸を適用する KV キャッシュ圧縮を実装した Python リポジトリ。
新着
jevagentharness/jevagentharness — コーディングエージェントのモデルルーティングプロキシ
jevagentharness/jevagentharness はコーディングエージェントの各ステップを分類してモデルを割り当てるプロキシで、README にある Terminal-Bench 2.0 の実測とその限界を扱う。
新着
perplexityai/space — Rust ベースのエージェントサンドボックス
perplexityai/space は、エージェントとユーザーコードを隔離して実行する Rust ベースのサンドボックスプラットフォームである。
新着
indras-mirror/xolotl — 単一 GPU 向けの大規模 MoE 推論エンジン
Strata を拡張した C++ エンジン Xolotl は複数の大規模モデルを OpenAI・Anthropic 互換サーバーで提供し、README は RTX 4090 での DeepSeek-V4.1-Flash 552B の decode 速度を 26.8 tok/s としている。
新着
nandhakishorm/laya v0.4.9 — 非自己回帰型意思決定エンジン
nandhakishorm/laya の v0.4.9 と、選択・採点・はい／いいえ判定を行うエンジンの対応範囲、および公開されている限界を確認する。
新着
rtk-ai/rtk v1.0.1 — トークン削減のための CLI プロキシ
rtk-ai/rtk は、開発コマンドの出力を圧縮・ルーティング・フィルタリングして LLM のトークン消費を減らす Rust 製の CLI プロキシ。
リリース
ggml-org/llama.cpp b11700 — Granite Switch decision 変換器の追加
llama.cpp b11700 は Granite Switch 系モデルの decision 変換とサポート経路を追加した。
新着
unclecode/crawl4ai v0.9.5 — Web を Markdown にするクローラー
unclecode/crawl4ai v0.9.5 は、Web サイトを LLM 向けの Markdown に変換するオープンソースのクローラー・スクレーパーです。
リリース
ggml-org/llama.cpp b11683 — Vulkan ホストメモリのインポート修正
llama.cpp nightly b11683 は、Vulkan バックエンドのホストメモリのインポート失敗ログと AMD のバッファ共有経路を修正したビルドである。
新着
antirez/ds4 — Metal・CUDA・ROCm向けのローカル推論エンジン
antirez/ds4は、一部のモデルをMetal・CUDA・ROCm上で実行するCベースのローカル推論エンジンです。
リリース
yetone/magpie v0.1.1257 — プラグインの刷新と JS gateway
yetone/magpie v0.1.1257 は、プラグイン機能を刷新し、Lody エージェント 지원を追加した機能リリースである。
新着
magnitudedev/magnitude — ハードウェアに合わせたローカル推論エンジン
magnitudedev/magnitude は、ハードウェアに合わせてカーネルをチューニングし、モデル推論に用いる Rust ベースのオープンソースエンジンです。
リリース
scaleapi/agentenv-framework v0.9.1331 — 実行ごとの設定上書きに対応
scaleapi/agentenv-framework v0.9.1331 は、ゲートウェイ経由の MCP サーバーのサンプルと、実行ごとの設定上書き機能を同梱した。
リリース
nousresearch/hermes-agent v0.22.2 — ゲートウェイの起動問題を修正
nousresearch/hermes-agent v0.22.2 は、不正なコミットでビルドされた v0.22.1 を置き換え、ゲートウェイの起動問題とノートPCのローカルモデル会話のリトライ動作を修正したリリースです。
新着
infiniflow/ragflow v1.0.0-rc1 — RAG・エージェントを統合したエンジン
infiniflow/ragflow は RAG とエージェント機能を組み合わせ、LLM にコンテキスト層を提供するオープンソースエンジンである。
新着
flashml-org/freetoken v0.1.3 — デスクトップ向け MoE サービングエンジン
flashml-org/freetoken がエッジハードウェアで大規模な MoE モデルをサービングするために提供する機能と、そのパフォーマンス情報の限界を紹介する。
リリース
ggml-org/llama.cpp b11630 — デイリービルドの自動リリース
ggml-org/llama.cpp の b11630 は、変更内容がコミットメッセージの水準でのみ説明されているデイリービルドの自動リリースである。
該当するニュースはありません。