깃(Git)선제압
한국어

← 소식

로컬 AI

llama.cpp b12497, tiny-voca 지원 추가

올린 때 기준일

llama.cpp pre-release b12497에서 멀티모달 경로에 tiny-voca 지원이 추가되고 G2P 변환이 개선되었다. 릴리스 페이지에는 성능 수치와 대상 모델에 대한 설명이 없다.

무슨 일이 있었나

  • GitHub Releases(ggml-org/llama.cpp) 기준, 2026-11-18 게시된 pre-release 빌드입니다.
  • mtmd 멀티모달 경로에 tiny-voca 지원을 추가했습니다 (PR #32427).
  • G2P(문자소-음소 변환) 처리를 개선했습니다.
  • 빌드 산출물에 macOS Apple Silicon, Ubuntu, Windows, Android 빌드와 CUDA 13.5 라이브러리가 포함되었습니다.
  • 성능 수치, 벤치마크, tiny-voca가 겨냥하는 모델이나 사용자는 릴리스 페이지에 없습니다.

우리 관점

Apple Silicon 빌드가 함께 올라왔다는 점은 Mac에서 로컬 모델을 돌리는 사람에게 참고가 되지만, 실제 효과는 확인되지 않았습니다. pre-release 빌드라 안정성도 별도로 검증해야 합니다.

출처와 관련 글

로컬 AI의 다른 소식

  1. NVIDIA, 과학 에이전트용 Nemotron for Science 공개 (nvidianews.nvidia.com)

    NVIDIA가 Nemotron 3.5 Super VL 기반 패키지를 발표했다. 화학 데이터셋과 post-training 레시피가 포함되며, IR 사본은 이 모델을 128GB DGX Spark에서 로컬 실행하도록 최적화했다고 밝혔다.

    로컬 AI| |출처 1곳 |우리 관점 있음
  2. NVIDIA RTX Spark 소형 데스크톱 출하 시작 (blogs.nvidia.com)

    ASUS, Dell, MSI의 RTX Spark 소형 데스크톱이 발표일 기준 출시되었고, 로컬 AI 에이전트와 모델 파인튜닝용으로 소개되었다. 가격은 NVIDIA 페이지에서 확인되지 않았다.

    로컬 AI| |출처 1곳 |우리 관점 있음
  3. llama.cpp b12441 사전 릴리스, WebGPU 마스크 오류 수정 (github.com)

    llama.cpp 사전 릴리스 b12441(2026-11-16)은 WebGPU flash-attention 셰이더가 마스크의 head 차원을 빼고 읽던 문제를 고쳤다. 같은 날 공개된 b12436은 Vulkan 32비트 컴파일 문제를 수정했다.

    로컬 AI| |출처 1곳 |우리 관점 있음

소식 전체 보기