1115714829/llama.cpp-v100

NVIDIA Tesla V100 に合わせた llama.cpp フォークの対応範囲と最新リリース情報を整理する。

GitHub の説明: llama.cpp optimized for NVIDIA Tesla V100 (SM70): Qwen3.8-Flash-Next with MTP (prefill 3402 tok/s at 200K context on 6x V100-16GB; also runs on 2x V100-16GB) and Qwen3.8-27B with DFlash2 (decode up to 220 tok/s); 2-6 GPUs, 262K-512K context, multimodal, concurrent serving, built-in web UI.

スター

★ 61

フォーク

13

言語

C++

ライセンス

GPL-3.0

最新リリース

v100-2.0.1.1