cosmonomic/pulsarlm 是一个面向持久型聊天机器人与智能体的 LLM 推理引擎。它从上下文中移除陈旧且低重要性的 token，以控制长对话的规模与推理成本。本次未给出新的发布版本。
其自定义注意力内核会按 token 页累积注意力质量，并定期移除质量较低的页面。系统提示词与最近的页面会被保留。由于删除历史 token 可能破坏大多数引擎所依赖的前缀缓存，其架构会定期将上下文快照写入外部存储，并从最新快照恢复对话。页面状态保存在默认 4 GiB 的主机内存 LRU 缓存中，不做持久化。
仓库报告了在 RTX 5090 上使用 bf16 的数据：默认配置下 Gemma 4 E2B 的预填充为 15.8k tok/s，单请求解码为 184 tok/s。16 并发请求的解码为 2.4k tok/s，其中预填充基于 5k token 提示词，解码基于 1 个 512 token 请求和 16 个 256 token 请求。另外给出的 Qwen3 8B 数据为预填充 6.7k tok/s、解码 89 tok/s。当前实现的模型很少，测试范围仅限于 x86_64 和 RTX 5090。其他 GPU 与 aarch64 wheel 未经验证，因此性能与兼容性依据较为有限。