ブログ
YouTubeに投稿した動画の内容を文章でまとめ直しています。数値や表をゆっくり確認できます。
無料ChatGPT級のローカルAIは24GB 1枚で足りる?3090・5090・Mac mini実測
24GBのGPU1枚(RTX 3090、4ビット)なら無料ChatGPT級のローカルAIと同じ土俵に立てます。3090・5090・Mac mini M6を同じ問題で測ったメモリ・速度・品質の表と比較基準、限界を整理しました。
Strata Mac mini 32GB実測 思考オン10.3~22.1トークン、27Bと比較
Mac mini M6 32GBでQwen3.8 Flash-Next Q2_0(66.4GB)をStrataで測定。10.3~22.1トークン(思考オン)。150問とコーディング52問は27B 4ビットと差を確認できず。開発者の値は別掲。
Mac mini M6 32GBでQwen3.8 27B 4ビット実測:JSON 49.7、韓国語8.8トークン
Mac mini M6 32GBでQwen3.8 27B 4ビットのファイル3種とMTP・DFlash2を測定。最速の組み合わせはJSON 49.7トークンですが韓国語は8.8トークン。最速ファイルは品質損失も最大(基準UD-Q6_K)。