mohit-jpg-dot/airdrop-llm은 로컬 무선망에 있는 여러 컴퓨터의 GPU와 메모리를 묶어 하나의 언어 모델 추론을 나눠 처리하는 파이프라인 병렬 추론 브로커다. 애플 실리콘의 Metal과 엔비디아의 CUDA 경로를 함께 쓰며, 오프라인에서 의존성 없이 동작하고 OpenAI 호환 API 게이트웨이를 내장한다. 저장소는 2026년 10월 19일 만들어졌고, 공개된 릴리스는 없다.
README는 이 저장소를 같은 로컬 무선망의 컴퓨터를 연결해 언어 모델 추론을 나누어 실행하려는 도구로 설명한다. 기기 탐색에는 UDP를 쓰고, 모델 계층(layer)을 기기별로 나누어 배치하며, 정적 가중치는 각 기기에 그대로 두고 활성값(active value, 계층 사이에서 넘어오는 계산 결과)만 TCP와 압축으로 넘긴다. 추론을 계층 단위로 기기 사이에 나눠 놓는 구조를 취한다. Rust로 작성됐고 라이선스는 MIT다. 스타는 7개다.
확인해야 할 지점은 README의 대형 모델 지원과 속도 주장이다. 두 가지 모두 별도의 측정 자료로 확인되지 않았다. 공개된 저장소 정보와 README를 기준으로 매긴 점수는 신선도 7.0, 기술 6.0, 완성도 5.0, 모멘텀 2.7로, 모멘텀만 낮게 나왔다. 서로 다른 소비자용 하드웨어를 임시 로컬 핫스팟 랜으로 엮어 큰 모델을 나눠 돌릴 수 있는지가 관건이고, 현재 그 근거는 README의 설명뿐이다.