Google, TPU 8tx와 TPU 8i Max 두 가지 신규 시스템 공개
올린 때 기준일
Google이 보안 중심의 TPU 8tx와 대규모 컨텍스트용 TPU 8i Max를 발표했다. 가격과 출시 시점은 출처마다 설명이 엇갈려 확정할 수 없다.
무슨 일이 있었나
Google 블로그와 Google Cloud 블로그(공식) 발표 기준입니다.
- Google은 이번 두 시스템으로 1년 안에 새 TPU 시스템이 4종이 됐다고 밝혔습니다. 4월 Cloud Next에서는 학습용 8t와 추론용 8i가 공개됐습니다.
- TPU 8tx는 TPU 8t와 같은 실리콘에 맞춤형 AMD CPU 호스트를 결합했고, 사용 중에도 데이터와 모델 가중치를 보호하는 보안 기능을 하드웨어에 넣었다고 합니다. 용도는 비공개 파인튜닝과 보안 에이전트 실행입니다.
- TPU 8i Max는 대규모 컨텍스트 윈도와 랙당 최고 연산 밀도를 목표로 한 제품이라고 설명합니다. 2차 보도에 따르면 8i 칩 2개를 한 패키지로 묶어 연산, SRAM, HBM 대역폭이 같은 랙 면적에서 2배라고 하나, 이는 블로그 문장에서 직접 확인한 수치가 아닙니다.
- 소프트웨어로는 유휴 에이전트 세션을 중단하고 작업 메모리를 칩 밖으로 옮기는 Agent Compute Engine이 소개됐고, Cloud Pathways는 GKE에서 정식 출시(GA)됐습니다.
- 출시 시점은 Bloomberg 인용으로는 내년이라는 보도와, 가격·일정이 없다는 보도가 엇갈립니다.
우리 관점
로컬 AI를 쓰는 Mac·PC·글래스 사용자가 직접 쓸 수 있는 제품은 아닙니다. 다만 클라우드 쪽에서 긴 컨텍스트와 비공개 파인튜닝 수요를 겨냥한 하드웨어가 늘고 있다는 신호입니다. 절대 성능 수치, 가격, 출시일은 아직 확인되지 않았습니다.
출처와 관련 글
- Google Blog 1차 출처
- Google Cloud Blog 1차 출처