“long-context” 관련 오픈소스 프로젝트

NVIDIA의 장시간 동영상 생성, 월드 모델, 로봇 월드-액션 모델 연구 프로젝트 4개를 각 디렉터리에 모아 둔 모노레포입니다.

12 GB 및 8 GB NVIDIA GPU에서 262k 컨텍스트로 1.58비트 Ternary Bonsai 2 27B 모델을 실행하는 런처와 패치된 llama.cpp 구성입니다.

12GB RTX 4070에서 Mirai S 27B(Qwen3.8-27B GGUF)를 262k 토큰 전체 컨텍스트와 q8_0 K/V 캐시로 서빙하는 설정입니다.