GitSeonjeap
日本語

ログイン

閲覧にログインは不要です。コミュニティで投稿・コメント、おすすめ・通報をするにはログインしてください。

ログインすると、下記の案内に同意したものとみなします。 ご利用案内 · プライバシーのご案内

ログインせずに閲覧する

← ニュース

ローカルAI

Ollama v0.40.16-rc0: pplx-decider 追加、API 動作を修正

掲載 基準日

Ollama プレリリース v0.40.16-rc0 に Perplexity の 27B 決定モデルが追加され、OpenAI 互換エンドポイントのサンプラー既定値の扱いが変わった。正式版では内容が変わる可能性がある。

何があったか

Ollama GitHub リリースノート(公式)に基づく内容です。

  • Qwen3.8-27B をファインチューニングした Perplexity の 27B(公式)決定モデル pplx-decider が追加されました。
  • OpenAI 互換エンドポイントが、モデルに含まれるサンプラー既定値をもはや上書きしなくなりました。temperature や top_p を送らない場合は、モデル自体の値が適用されます。
  • Responses API で、思考機能のあるモデルとないモデルを行き来しながら会話を続けると失敗していた問題が修正されました。クライアントツール呼び出しのストリーミングにおける順序の誤りと重複イベントも修正されました。
  • /api/chat のクラウド Web 検索応答が、圧縮された場合を含めて正しく解釈されるようになりました。

当チャンネルの見方

OpenAI 互換 API で Ollama を使っているユーザーは、サンプリングパラメータを送らない場合に結果が変わる可能性があるため確認が必要です。rc0 なので、正式版 v0.40.16 では内容が変わるかもしれません。pplx-decider のベンチマークとライセンスは確認できていません。

出典と関連記事

ローカルAIのほかのニュース

  1. llama.cpp b12200、Qualcomm向けOpenCL量子化カーネルを改善 (github.com)

    llama.cppのb12200リリースには、OpenCLのq8_0とMoEの小規模バッチ処理を調整する変更が1件含まれている。性能の数値は公開されていない。

    ローカルAI| |出典1件 |当チャンネルの見方あり
  2. Moonshot、オープンウェイトモデル Kimi K3.1 Pro を公開 (huggingface.co)

    Moonshot AIがHugging Faceにマルチモーダルエージェントモデル Kimi K3.1 Proの重みを公開した。パラメータは2.8T(公式)と表記されており、専用ライセンスが適用される。

    ローカルAI| |出典1件 |当チャンネルの見方あり
  3. llama.cpp b12180、Kimi-K3.1-Pro テキスト対応を追加… VulkanはReBARを検出 (github.com)

    llama.cppが11月6日のビルドb12180で、テキスト専用のKimi-K3.1-Pro対応を入れた。同じ日、Vulkanバックエンドは ReBARサポートの有無を検出するようになった。

    ローカルAI| |出典1件

ニュース一覧