abetlen/llama-cpp-python은 llama.cpp를 Python에서 사용하도록 연결하는 바인딩 저장소다. 제공된 자료에 기록된 최신 릴리스는 v0.3.36-hip-radeon이다. 이번 버전에서 무엇이 바뀌었는지는 자료에 변경 내역이 없어 확인할 수 없다. 릴리스 이름만으로 빌드 방식이나 지원 하드웨어를 단정할 수는 없다.
이 프로젝트는 llama.cpp의 C API를 ctypes로 연결하고, Llama 클래스로 텍스트 완성과 채팅 완성 기능을 제공한다. 별도의 OpenAI 호환 웹 서버와 API도 지원하며 LangChain 및 LlamaIndex와 호환된다. 연구 기록에는 Vision API와 멀티모달 chat handler를 통한 이미지·텍스트 모델 추론도 기재돼 있다. 따라서 저장소의 범위는 모델 호출을 Python 코드와 서버 API 양쪽에서 다루는 데 있다. 언어는 Python이고 라이선스는 MIT다.
저장소는 2023-03-23에 생성됐고, 제공된 기록의 별 수는 10656개, 모멘텀 점수는 1.3/10이다. 새로움·기술·품질 점수는 주어지지 않았다. 자료에는 성능 벤치마크와 실제 도입 사례도 없다. 그러므로 기능의 범위는 설명할 수 있지만, 이 기록만으로 성능이나 안정성을 판단할 근거는 부족하다.