cosmonomic/pulsarlm

An LLM inference engine for persistent chat bots and agents. It allows models to forget old and unimportant tokens to keep context small and inference fast.

スター

★ 4

フォーク

0

言語

C++

ライセンス

Apache-2.0

最新リリース

—