Edge0-145B 오픈 웨이트 공개, 온디바이스 실행 주장
올린 때 기준일
Edge0가 145B 파라미터 모델 Edge0-145B의 오픈 웨이트를 공개했다고 밝혔습니다. 공식 모델 카드의 수치는 RTX 5090 D 기준이며, macOS 지원은 출처마다 달라 확인이 필요합니다.
무슨 일이 있었나
- Edge0 공식 블로그 기준, Edge0-145B는 145B 파라미터의 오픈소스 온디바이스 AI 모델로 소개됐습니다.
- (공식) NVFP4 모델 카드 수치: 에이전트 디코드 98.3 tok/s, 16K 프리필 3165.7 tok/s, Terminal-Bench 2.1 86.5점. 수치 기준 장비는 RTX 5090 D 24GB입니다.
- 모델 카드 기준 구조는 48개 레이어, 512 experts, 토큰당 10개 활성, 256K 컨텍스트, 4비트 네이티브 학습입니다.
- 상업적 사용은 info@edge0.ai로 문의하도록 되어 있습니다.
- 적혀 있는 내용에 따르면 Qwen의 별도 승인 및 저작자 표시 요건은 Edge0의 허가로 면제되지 않습니다.
우리 관점
Mac이나 PC에서 로컬로 실행하려는 사용자에게는 145B 규모 모델이 온디바이스에서 돌아갈지가 핵심입니다. 다만 macOS 지원은 2차 보도와 모델 카드 설명이 엇갈려 아직 확정할 수 없습니다. 노트북에서의 메모리 사용량과 속도 수치는 블로그 원문에서 확인되지 않았고, 상업적 사용 조건도 문의가 필요합니다.
출처와 관련 글
- Edge0 공식 블로그 1차 출처
- Edge0 Hugging Face 모델 카드 1차 출처