65B 밀집 모델 Ripple-65B Preview, Apache 2.0으로 공개
올린 때 기준일
Ricursive Intelligence가 65B 밀집(dense) 모델 Ripple-65B Preview를 Apache 2.0으로 올렸다. 컨텍스트 최대 약 100만 토큰이며, 벤치마크는 모두 제작사 자체 수치다.
무슨 일이 있었나
Hugging Face에 올라온 모델 카드를 기준으로 정리한다.
- 모델: Ricursive Intelligence의 Ripple-65B Preview. 파라미터 65B 전부가 활성화되는 밀집(dense) 트랜스포머이고, 전문가 혼합(MoE) 구조가 아니다. 80개 층, 은닉 크기 5120. (공식)
- 라이선스: Apache 2.0. (공식)
- 컨텍스트: 최대 1,048,576 토큰. 사전학습은 8K 길이로 했다고 적혀 있다. (공식)
- 학습: 약 12조 토큰(주로 영어 텍스트와 코드)으로 처음부터 학습했다. (공식)
- 배포 형태: 이 저장소는 BF16 지시 튜닝본이다. 별도로 NVFP4 양자화본, BF16 사전학습 기본본, DFlash2 변형이 있다. (공식)
- 하드웨어 언급: 카드에는 NVIDIA DGX Spark 같은 소비자 하드웨어에 들어간다는 문장이 있지만, 어떤 정밀도 기준인지는 적혀 있지 않다. 2×B200, 배치 8에서 약 250 tokens/s라는 수치도 있는데, 양자화 전 값이다. (공식, 자체 수치)
- 벤치마크(제작사 자체 보고): Terminal-Bench 2.1 80.5, SWE-bench Verified 76.5. (공식, 자체 주장)
공개일은 확인하지 못했다. 모델 카드에는 날짜가 없고 인용 정보에 2026년이라고만 적혀 있다. 보도에서는 11월 4일부터 7일까지로 엇갈린다.
카드에 없는 것: llama.cpp, vLLM, MLX 지원 여부, 필요 메모리와 맥에서의 실측 속도, 독립 평가, 논문.
우리 관점
65B 밀집 모델이라 메모리 부담은 활성 파라미터가 작은 MoE보다 크다. 단순 계산으로 4비트 가중치만 약 33GB이고, 컨텍스트와 실행 오버헤드가 더해진다(계산, 실측 아님). 맥 스튜디오급 통합 메모리나 DGX Spark가 후보가 되지만, 우리 채널에서 확인한 것은 아니다.
모델 저장소에 사용자 정의 코드 태그가 붙어 있어서, 지금 llama.cpp나 MLX에서 바로 돌아가는지는 알 수 없다. 돌아간다고 확인되면 같은 조건의 측정 후보로 삼을 만하다.