mohit-jpg-dot/airdrop-llm

로컬 무선망에 있는 여러 컴퓨터의 GPU와 메모리를 묶어 파이프라인 병렬 추론을 수행하는 Rust 저장소로, Metal과 CUDA 경로를 함께 쓰고 OpenAI 호환 API 게이트웨이를 내장한다.

GitHub 설명: An offline, zero-dependency multi-node pipeline-parallel LLM inference broker. Pools heterogeneous consumer hardware (Apple Metal + NVIDIA CUDA) over ad-hoc local hotspot LANs with an integrated OpenAI-compatible API gateway.