Devotd Github
새 소식추론/서빙

cobanov/ps5lm v0.9.1 — 탈옥 PS5용 llama.cpp 모델 서버

cobanov/ps5lm v0.9.1은 탈옥된 PS5에서 GGUF 모델을 실행하고 호환 API로 제공하는 모델 서버다.

저장소 정보cobanov/ps5lm ↗

cobanov/ps5lm v0.9.1은 탈옥된 PS5에서 GGUF 모델을 실행하고 호환 API로 제공하는 모델 서버다.

GitHub 설명: llama.cpp on a jailbroken PS5: run any GGUF model natively on the console, starting with Qwen 3.8

스타
★ 738
포크
64
언어
C++
라이선스
GPL-3.0
최신 릴리스
v0.9.1
원문 보기 ↗GitHub에서 보기 ↗

cobanov/ps5lm은 탈옥된 PS5에서 llama.cpp로 GGUF 모델을 실행해 네트워크에 제공하는 사설 모델 서버다. 최신 릴리스는 v0.9.1이다. 공개된 FACTS에는 이 버전에서 바뀐 내용이 구체적으로 적혀 있지 않아, 변경 사항은 확인할 수 없다. 프로젝트는 C++로 작성됐고 GPL-3.0 라이선스로 공개됐다.

이 프로젝트는 PS5의 RDNA 2 GPU에서 Vulkan 백엔드를 사용한다. Vulkan은 그래픽 장치에서 연산을 수행하도록 연결하는 소프트웨어 경로다. 실행한 모델은 OpenAI·Anthropic 호환 API와 브라우저 채팅을 통해 노트북, 휴대전화, 코딩 도구에서 사용할 수 있다. 화면에 요청과 응답, 콘솔 상태를 표시하고 이미지 입력도 지원한다. Ollaya와 같은 결정 모델용 `/v1/systemone` API도 제공한다. 문서에 따르면 실행 중 PC나 클라우드, 계정은 필요하지 않다.

모델과 문맥은 PS5의 공유 메모리 11.4GB를 함께 사용하며, 문서에는 메모리에 맞춰 모델과 캐시를 고르는 기능이 설명돼 있다. 공개 자료에서 확인되는 차별점은 독자적인 추론 알고리즘이 아니라 콘솔 포팅과 모델 서버의 결합이다. 문서에 나온 처리 속도는 작성자의 측정이며 독립적으로 재현된 결과가 아니다. 현재 코드 전체와 성능도 검증되지 않았으므로, 성능 평가보다는 PS5에서 모델 서버를 구성하는 사례로 보는 편이 적절하다.