Edge0-145B オープンウェイト公開、オンデバイス実行を主張
掲載 基準日
Edge0が145Bパラメータモデル Edge0-145B のオープンウェイトを公開したと発表しました。公式モデルカードの数値はRTX 5090 D基準で、macOS対応は出典によって異なるため確認が必要です。
何があったか
- Edge0の公式ブログによると、Edge0-145Bは145Bパラメータのオープンソースのオンデバイス AIモデルとして紹介されています。
- (公式) NVFP4モデルカードの数値: エージェントデコード 98.3 tok/s、16Kプリフィル 3165.7 tok/s、Terminal-Bench 2.1 86.5点。数値の基準機器はRTX 5090 D 24GBです。
- モデルカードに記載された構造は、48レイヤー、512 experts、トークンあたり10個がアクティブ、256Kコンテキスト、4ビットネイティブ学習です。
- 商用利用はinfo@edge0.aiへの問い合わせとされています。
- 記載内容によれば、Qwenの別途の承認および帰属表示の要件は、Edge0の許可によって免除されるものではありません。
当チャンネルの見方
MacやPCでローカル実行したいユーザーにとっては、145B規模のモデルがオンデバイスで動作するかどうかが核心です。ただし、macOS対応については二次報道とモデルカードの説明が食い違っており、まだ確定できません。ノートPCでのメモリ使用量と速度の数値はブログ原文で確認できておらず、商用利用の条件も問い合わせが必要です。
出典と関連記事
- Edge0 공식 블로그 一次情報
- Edge0 Hugging Face 모델 카드 一次情報