datawhalechina/zero-to-sglang

zero-to-sglang コースの第2部第6章「連続バッチとスケジューラ」の概念ドキュメントと図解が中国語・英語で完成した。

GitHub の説明: Official SGLang x Datawhale course on LLM inference: understand inference, build a mini-sglang from scratch, then read the real SGLang source and land your first PR. Available in English and Chinese.

スター

★ 1.5K

フォーク

114

言語

Python

ライセンス

—