깃(Git)선제압
한국어

← 소식

로컬 AI

llama.cpp b12441 사전 릴리스, WebGPU 마스크 오류 수정

올린 때 기준일

llama.cpp 사전 릴리스 b12441(2026-11-16)은 WebGPU flash-attention 셰이더가 마스크의 head 차원을 빼고 읽던 문제를 고쳤다. 같은 날 공개된 b12436은 Vulkan 32비트 컴파일 문제를 수정했다.

무슨 일이 있었나

출처: ggml-org/llama.cpp GitHub 릴리스 페이지

  • b12441 사전 릴리스가 2026-11-16에 태그됨 (공식)
  • WebGPU flash-attention 셰이더가 마스크를 head 차원 없이 읽어, 마스크에 head가 2개 이상일 때 잘못된 결과가 나왔다고 밝힘
  • 수정은 마스크 오프셋에 head 인덱스를 더하는 방식
  • Vulkan의 top-k 동점 선택을 결정적으로 만드는 변경 포함. 원자 카운터를 쓰는 radix select 때문에 스레드 스케줄링에 따라 남는 열이 달라질 수 있었다고 설명
  • b12436(2026-11-16)은 Vulkan 32비트 컴파일 문제 수정

우리 관점

PC에서 Vulkan이나 WebGPU 경로로 로컬 모델을 돌리는 사용자에게는 어텐션 결과 정확도와 결과 재현성에 관련된 수정이다. 다만 영향을 받는 모델 목록, 성능 수치, 이전 빌드에서 출력이 얼마나 달랐는지는 확인되지 않았다. Mac이나 안경 기기에 대한 직접 영향도 노트에서 확인되지 않았고, 개별 태그 페이지는 열어보지 않았다.

출처와 관련 글

로컬 AI의 다른 소식

  1. NVIDIA, 과학 에이전트용 Nemotron for Science 공개 (nvidianews.nvidia.com)

    NVIDIA가 Nemotron 3.5 Super VL 기반 패키지를 발표했다. 화학 데이터셋과 post-training 레시피가 포함되며, IR 사본은 이 모델을 128GB DGX Spark에서 로컬 실행하도록 최적화했다고 밝혔다.

    로컬 AI| |출처 1곳 |우리 관점 있음
  2. NVIDIA RTX Spark 소형 데스크톱 출하 시작 (blogs.nvidia.com)

    ASUS, Dell, MSI의 RTX Spark 소형 데스크톱이 발표일 기준 출시되었고, 로컬 AI 에이전트와 모델 파인튜닝용으로 소개되었다. 가격은 NVIDIA 페이지에서 확인되지 않았다.

    로컬 AI| |출처 1곳 |우리 관점 있음
  3. llama.cpp b12497, tiny-voca 지원 추가 (github.com)

    llama.cpp pre-release b12497에서 멀티모달 경로에 tiny-voca 지원이 추가되고 G2P 변환이 개선되었다. 릴리스 페이지에는 성능 수치와 대상 모델에 대한 설명이 없다.

    로컬 AI| |출처 1곳 |우리 관점 있음

소식 전체 보기