Google、TPU 8txとTPU 8i Maxの2つの新システムを発表
掲載 基準日
Googleがセキュリティ重視のTPU 8txと、大規模コンテキスト向けのTPU 8i Maxを発表した。価格と提供開始時期は情報源によって説明が食い違っており、確定できない。
何があったか
Googleブログ・Google Cloudブログ(公式)の発表に基づきます。
- Googleは今回の2システムにより、1年以内に新しいTPUシステムが4種類になったと発表しました。4月のCloud Nextでは、学習用の8tと推論用の8iが公開されています。
- TPU 8txは、TPU 8tと同じシリコンにカスタムAMD CPUホストを組み合わせたもので、利用中もデータとモデルの重みを保護するセキュリティ機能をハードウェアに組み込んだとされています。用途は非公開のファインチューニングとセキュアなエージェントの実行です。
- TPU 8i Maxは、大規模なコンテキストウィンドウとラックあたりの最高の演算密度を目標とした製品だと説明されています。二次報道によれば、8iチップ2個を1つのパッケージにまとめ、演算、SRAM、HBM帯域が同じラック面積で2倍になるとのことですが、これはブログの文章で直接確認できた数値ではありません。
- ソフトウェアでは、アイドル状態のエージェントセッションを停止し、作業メモリをチップの外へ移すAgent Compute Engineが紹介されました。Cloud Pathwaysは、GKEで一般提供(GA)が開始されています。
- 提供開始時期については、Bloombergの引用として来年とする報道と、価格や日程は示されていないとする報道が食い違っています。
当チャンネルの見方
ローカルAIを使うMac・PC・グラスのユーザーがそのまま使える製品ではありません。ただ、クラウド側で長いコンテキストや非公開のファインチューニング需要を狙ったハードウェアが増えていることを示すシグナルです。絶対性能の数値、価格、提供開始日はまだ確認されていません。
出典と関連記事
- Google Blog 一次情報
- Google Cloud Blog 一次情報