introspective-diffusion/dlmrt

introspective-diffusion/dlmrt は、ブロック拡散言語モデルを 1 件ずつ処理する推論エンジンで、デノイジングのループを GPU 上で実行する構成を備えている。

GitHub の説明: dlmrt: a single-request inference engine for block-diffusion language models

スター

★ 16

フォーク

2

言語

Cuda

ライセンス

Apache-2.0