lightseekorg/tokenspeed

TokenSpeed エンジンが、コミットされたトークンのうち累積推論トークン数を数え、出力バッチとクライアントに `reasoning_tokens` として出力する機能を、2026年11月8日のコミットで追加した。

GitHub の説明: TokenSpeed is a speed-of-light LLM inference engine.

スター

★ 2.7K

フォーク

351

言語

Python

ライセンス

MIT

最新リリース

v0.1.1