GitSeonjeap
日本語

← ニュース

ローカルAI

llama.cpp b12441 プレリリース、WebGPUマスクのバグを修正

掲載 基準日

llama.cpp プレリリース b12441(2026-11-16)は、WebGPU flash-attention シェーダーがマスクのhead次元を無視して読み取っていた問題を修正した。同日公開のb12436はVulkan 32ビットコンパイルの問題を修正した。

何があったか

出典: ggml-org/llama.cpp GitHub リリースページ

  • b12441 プレリリースが2026-11-16にタグ付けされた(公式)
  • WebGPU flash-attention シェーダーがマスクをhead次元なしで読み取り、マスクのheadが2つ以上の場合に誤った結果が出たと説明
  • 修正は、マスクのオフセットにhead インデックスを加える方式
  • Vulkanのtop-k同点選択を決定的にする変更を含む。アトミックカウンターを使うradix selectのため、スレッドのスケジューリングによって残る列が変わりうると説明
  • b12436(2026-11-16)はVulkan 32ビットコンパイルの問題を修正

当チャンネルの見方

PCでVulkanやWebGPUの経路を使ってローカルモデルを動かすユーザーにとって、アテンション結果の正確性と結果の再現性に関わる修正である。ただし、影響を受けるモデルの一覧、性能数値、以前のビルドで出力がどれほど違ったかは確認されていない。MacやARグラスのデバイスへの直接の影響もノートでは確認できず、個別のタグページは開いていない。

出典と関連記事

ローカルAIのほかのニュース

  1. NVIDIA、科学エージェント向けNemotron for Scienceを公開 (nvidianews.nvidia.com)

    NVIDIAがNemotron 3.5 Super VLベースのパッケージを発表した。化学データセットとpost-trainingレシピが含まれ、IRコピーによると、このモデルは128GB DGX Sparkでのローカル実行に最適化されているという。

    ローカルAI| |出典1件 |当チャンネルの見方あり
  2. NVIDIA RTX Spark 小型デスクトップ出荷開始 (blogs.nvidia.com)

    ASUS、Dell、MSIのRTX Spark小型デスクトップが発表日時点で発売され、ローカルAIエージェントとモデルのファインチューニング向けとして紹介された。価格はNVIDIAのページで確認されなかった。

    ローカルAI| |出典1件 |当チャンネルの見方あり
  3. llama.cpp b12497、tiny-voca対応を追加 (github.com)

    llama.cpp pre-release b12497では、マルチモーダル経路にtiny-voca対応が追加され、G2P変換が改善された。リリースページには性能数値や対象モデルの説明はない。

    ローカルAI| |出典1件 |当チャンネルの見方あり

ニュース一覧