GitSeonjeap
日本語

ログイン

閲覧にログインは不要です。コミュニティで投稿・コメント、おすすめ・通報をするにはログインしてください。

ログインすると、下記の案内に同意したものとみなします。 ご利用案内 · プライバシーのご案内

ログインせずに閲覧する

← ニュース

ローカルAI

Ollama v0.40.16 正式リリース、Apple silicon のメモリ削減を明記

掲載 基準日

Ollamaが v0.40.16 の正式タグを公開した。公式リリースノートには、Apple silicon で Qwen3.8 Flash Next のメモリ使用量が減ったという内容と、Windows on ARM 向け CUDA 13.5 サポートが含まれている。

何があったか

  • 出典: Ollama GitHub リリース (v0.40.16 正式タグ)
  • Apple silicon で Qwen3.8 Flash Next のメモリ使用量が約 27 GiB 減ったと明記 (公式)
  • /v1/responses が truncation 設定に従うようになり、デフォルト設定で黙って切り詰められないよう変更
  • Windows on ARM 向け CUDA 13.5 サポートを追加
  • llama.cpp の更新を含む
  • リリースノートには 27 GiB という数値のテスト環境は記載されていない

当チャンネルの見方

Mac の Apple silicon で Qwen3.8 Flash Next をローカル実行しているユーザーにとっては、メモリの余裕が変わる可能性がある。ただし実際の削減幅はモデルサイズ、量子化、コンテキスト長によって異なりうるうえ、リリースノートだけでは確認できない。Windows on ARM 機器での CUDA 13.5 の体感効果もまだ分かっていない。

出典と関連記事

ローカルAIのほかのニュース

  1. Ollama v0.40.16-rc0: pplx-decider 追加、API 動作を修正 (github.com)

    Ollama プレリリース v0.40.16-rc0 に Perplexity の 27B 決定モデルが追加され、OpenAI 互換エンドポイントのサンプラー既定値の扱いが変わった。正式版では内容が変わる可能性がある。

    ローカルAI| |出典1件 |当チャンネルの見方あり
  2. llama.cpp b12200、Qualcomm向けOpenCL量子化カーネルを改善 (github.com)

    llama.cppのb12200リリースには、OpenCLのq8_0とMoEの小規模バッチ処理を調整する変更が1件含まれている。性能の数値は公開されていない。

    ローカルAI| |出典1件 |当チャンネルの見方あり
  3. Moonshot、オープンウェイトモデル Kimi K3.1 Pro を公開 (huggingface.co)

    Moonshot AIがHugging Faceにマルチモーダルエージェントモデル Kimi K3.1 Proの重みを公開した。パラメータは2.8T(公式)と表記されており、専用ライセンスが適用される。

    ローカルAI| |出典1件 |当チャンネルの見方あり

ニュース一覧