Devotd Github
새 소식추론/서빙

markab21/rpn-gpt — Nemotron 3.5 Lightning 안의 Forth 머신

markab21/rpn-gpt는 Nemotron 3.5 Lightning의 가중치에 Forth 머신을 넣고 모델이 이를 사용하도록 사후 학습하는 구성을 소개한다.

저장소 정보markab21/rpn-gpt ↗

markab21/rpn-gpt는 Nemotron 3.5 Lightning의 가중치에 Forth 머신을 넣고 모델이 이를 사용하도록 사후 학습하는 구성을 소개한다.

GitHub 설명: An exact Forth machine compiled into Nemotron 3.5 Lightning's weights, and the post-training that teaches the model to use it.

스타
★ 3
포크
1
언어
Python
라이선스
MIT
원문 보기 ↗GitHub에서 보기 ↗

markab21/rpn-gpt는 Nemotron 3.5 Lightning의 가중치 안에 정확한 Forth 머신을 컴파일하고, 모델이 그 머신을 쓰도록 사후 학습한 프로젝트다. 저장소 설명은 모델이 일반 텍스트로 역폴란드식 프로그램을 생성하는 동안 계산용 스택 머신을 함께 실행하는 구성을 제안한다. 특정 버전의 변경 사항이 아니라, 모델 안에 계산 장치를 넣는 실험 설계가 중심이다.

역폴란드식(RPN)은 값을 먼저 스택에 쌓고 연산자를 뒤에 두는 표기법이다. 이 프로젝트에서는 모델이 작성한 프로그램을 생성 과정에서 실행한다. README는 숨겨진 토큰으로 머신 단계를 수행하고 결과를 이어 쓰는 방식을 도식과 토큰별 예시로 설명하며, 실행 기록과 계산 예시도 제공한다. 구성에는 Nemotron 3.5 Lightning, LoRA, 가중치로 계산한 Forth 머신, 학습 데이터와 여러 배포 형식의 모델이 포함된다. 저장소는 Python으로 작성됐으며 MIT 라이선스다.

이 방식의 핵심은 텍스트 생성과 계산을 모델 내부에서 연결하는 데 있다. 다만 제공된 정보에는 성능 점수나 비교 결과가 없고, 최신 릴리스도 기재돼 있지 않다. 따라서 예시와 실행 기록은 설계가 어떻게 동작하는지 보여 주지만, 실제 계산 성능을 판단할 근거로는 부족하다.