새 소식
lithos-ai/lithos-metal v0.1.2 — Apple 실리콘 LLM 추론 엔진
lithos-ai/lithos-metal의 v0.1.2와 Apple 실리콘용 Metal 추론·서빙 구조, 성능 투영치의 한계를 다룬다.
프로젝트
lithos-ai/lithos-metal
lithos-metal: high-performance LLM inference kernels and serving for Apple silicon.
GitHub에서 보기 ↗- 스타
- ★ 284
- 포크
- 24
- 언어
- Python
- 라이선스
- Apache-2.0
- 최신 릴리스
- v0.1.2
게시물
1조건에 맞는 소식이 없습니다.