llama.cpp b12322 プレリリース、グラフメモリ・SYCL・CUDA の修正を含む

掲載 11月13日 07:02 基準日 2026年11月12日

11月12日 18:59 UTC に b12322 プレリリースが公開され、同日 b12308 から b12322 まで連続ビルドが上がりました。含まれる変更はリリースページに並んでいる修正項目です。

何があったか

ggml-org/llama.cpp GitHub リリースページ基準\n- b12322 プレリリースが11月12日 18:59 UTC に公開されました。\n- 未使用のグラフメタデータページに触れないようにする修正(#32043)が含まれています。\n- SYCL AOT で 4GB を超える場合を処理するよう修正(#31873)が含まれています。\n- CUDA MoE MMQ stream-k で空のタイルをスキップする変更(#32067)が含まれています。\n- Adreno 向け decomposed FA の追加(#32046)が含まれています。

Mac や PC で llama.cpp を直接ビルドして使っているユーザーなら、今回のビルド変更一覧を確認しておく価値があります。ただし各 PR の性能数値、ベンチマーク、対応モデル一覧は確認できていないため、実際にどの程度速くなるのかは分かりません。

ローカルAIのほかのニュース

Hugging Face のモデルカードに、Transformers と vLLM の実行方法、DFlash 投機的デコードのドラフト設定が掲載されています。ベンチマークとパラメータ数は公式ページの本文では確認できませんでした。

ローカルAI| 11月13日 07:02 |出典1件 |当チャンネルの見方あり

ggml-org/llama.cppのb12241リリースは、Hexagonでcloseの際に64ビットFastRPCハンドルが切り捨てられる問題を修正したマイナーアップデートです。リリースページには新モデル対応やユーザー向け機能の追加は記載されていません。

ローカルAI| 11月12日 07:02 |出典1件 |当チャンネルの見方あり

Ollamaが v0.40.16 の正式タグを公開した。公式リリースノートには、Apple silicon で Qwen3.8 Flash Next のメモリ使用量が減ったという内容と、Windows on ARM 向け CUDA 13.5 サポートが含まれている。

ローカルAI| 11月11日 07:02 |出典1件 |当チャンネルの見方あり