깃(Git)선제압
한국어

로그인

글 읽기는 로그인 없이 됩니다. 커뮤니티에 글 · 댓글을 쓰거나 추천 · 신고를 하려면 로그인해 주세요.

로그인하면 아래 안내에 동의한 것으로 봅니다. 이용 안내 · 개인정보 안내

로그인하지 않고 둘러보기

← 소식

로컬 AI

llama.cpp b12241, Hexagon의 FastRPC 핸들 절단 문제 수정

올린 때 기준일

ggml-org/llama.cpp의 b12241 릴리스는 Hexagon에서 close 시 64비트 FastRPC 핸들이 잘리는 문제를 고친 마이너 업데이트입니다. 릴리스 페이지에는 새 모델 지원이나 사용자 기능 추가가 나오지 않습니다.

무슨 일이 있었나

  • 출처: ggml-org/llama.cpp GitHub 릴리스 b12241 (2026-11-10)
  • 수정 내용: Hexagon에서 close 시 64비트 FastRPC 핸들 절단 문제 (#30952)
  • 사전 빌드 바이너리: macOS Apple Silicon, Ubuntu, Android Snapdragon(CPU, Adreno GPU, Hexagon NPU), Windows, CUDA, ROCm, Vulkan, SYCL 빌드
  • 새 모델 지원이나 사용자 대상 기능은 릴리스 페이지에 명시되어 있지 않음
  • 2차 요약에 언급된 도구 호출용 lazy-grammar 수정은 GitHub 페이지에서 확인하지 못해 제외

우리 관점

  • Snapdragon 기기에서 Hexagon NPU 경로를 쓰는 사용자에게 관련된 수정입니다. Mac과 PC 사용자에게는 영향 범위가 작아 보입니다.
  • 확인되지 않은 점: 이 수정이 실제 속도나 안정성에 미치는 영향, 재현 조건의 세부 내용.

출처와 관련 글

로컬 AI의 다른 소식

  1. Ollama v0.40.16 정식 릴리스, Apple silicon 메모리 절감 명시 (github.com)

    Ollama가 v0.40.16 정식 태그를 공개했다. 공식 릴리스 노트에는 Apple silicon에서 Qwen3.8 Flash Next의 메모리 사용이 줄었다는 내용과 Windows on ARM용 CUDA 13.5 지원이 담겼다.

    로컬 AI| |출처 1곳 |우리 관점 있음
  2. Ollama v0.40.16-rc0: pplx-decider 추가, API 동작 수정 (github.com)

    Ollama 프리릴리스 v0.40.16-rc0에 Perplexity의 27B 결정 모델이 추가됐고, OpenAI 호환 엔드포인트의 샘플러 기본값 처리가 바뀌었다. 정식판 내용은 달라질 수 있다.

    로컬 AI| |출처 1곳 |우리 관점 있음
  3. llama.cpp b12200, 퀄컴 OpenCL 양자화 커널 개선 (github.com)

    llama.cpp b12200 릴리스에는 OpenCL의 q8_0과 MoE 소규모 배치 처리를 손보는 변경 하나가 담겼다. 성능 수치는 공개되지 않았다.

    로컬 AI| |출처 1곳 |우리 관점 있음

소식 전체 보기