ブログ
YouTubeに投稿した動画の内容を文章でまとめ直しています。数値や表をゆっくり確認できます。
-
Strata RTX 3090で125Bの量子化5種を実測、RAM 32GB級でIQ3_Sのプリフィル2045→207 (youtube.com)
RTX 3090 1枚でStrataを使い、Qwen 3.8 Flash-Next 125Bの量子化5種を実測しました。韓国語の正答率は重なり、RAM 32GB級でIQ3_Sのプリフィルは2045→207トークン/秒に落ちました。
YouTubeに投稿した動画の内容を文章でまとめ直しています。数値や表をゆっくり確認できます。
RTX 3090 1枚でStrataを使い、Qwen 3.8 Flash-Next 125Bの量子化5種を実測しました。韓国語の正答率は重なり、RAM 32GB級でIQ3_Sのプリフィルは2045→207トークン/秒に落ちました。