zhongkaifu/tensorsharp

zhongkaifu/tensorsharp のローカル GGUF 推論機能、提供されるインターフェース、対応範囲を紹介する。

GitHub の説明: A native .NET LLM inference engine and agent runtime for GGUF models. TensorSharp provides a console application, a web-based chatbot interface, iPhone App, and Ollama/OpenAI-compatible HTTP APIs for programmatic access. It supports Windows/MacOS/iOS/Linux with full GPU capability