llama.cpp b12180, Kimi-K3.1-Pro 텍스트 지원 추가… Vulkan은 ReBAR 감지
올린 때 기준일
llama.cpp가 11월 6일 빌드 b12180에서 텍스트 전용 Kimi-K3.1-Pro 지원을 넣었다. 같은 날 Vulkan 백엔드는 ReBAR 지원 여부를 감지하게 됐다.
무슨 일이 있었나
llama.cpp 릴리스 목록(b12171~b12182, 11월 6~7일)을 기준으로 정리한다.
- b12180 (11월 6일): 텍스트 전용 Kimi-K3.1-Pro 모델 지원. K3의 그래프와 변환기를 재사용하고, 93개 층 중 24개 층에 라이트닝 인덱서를 넣고, 새 하이브리드 캐시를 쓴다. (공식)
- b12171 (11월 6일): Vulkan 백엔드가 ReBAR 지원 여부를 감지하고, 지원하지 않으면 BAR 할당을 피한다. (공식)
- b12173 (11월 6일): OpenCL 백엔드의 repeat 연산이 f16, i32, i16, bf16을 지원한다. (공식)
- b12177 (11월 6일): 프롬프트나 파일에 잘못된 UTF-8이 있으면 CLI가 죽던 문제를 고쳤다. (공식)
릴리스 노트가 말하지 않는 것: 필요 메모리, 실제 구동 속도, 이 모델이 일반 PC에서 돌아가는지 여부. 지원이 추가됐다는 사실과 실제로 쓸 만하다는 것은 다르다.
출처와 관련 글
- llama.cpp GitHub 릴리스 노트 1차 출처