깃(Git)선제압
한국어

← 소식

로컬 AI

Inkling 2 Small 오픈 웨이트 공개, 594B MoE 모델

올린 때 기준일

Thinking Machines Lab이 Inkling 2 Small의 가중치를 공개했습니다. 모델 카드는 Apache-2.0과 1M 토큰 컨텍스트를 표기하지만, 한 분석은 저장소에 LICENSE 파일이 없다고 지적했습니다.

무슨 일이 있었나

  • Thinking Machines Lab 발표와 Hugging Face 모델 카드 기준, 가중치는 2026-11-12에 공개됐습니다.
  • 최초 출시는 2026-11-05이며 당시에는 Tinker에서만 호스팅됐습니다.
  • 11월 5일 발표 내용은 CASRAI의 정리를 통해 확인했으며, 외부 안전성 테스트와 레드팀 이후 Apache 2.0으로 공개한다는 취지입니다.
  • (공식) 모델 카드 기준 텍스트와 이미지를 입력받아 텍스트를 출력하며, 컨텍스트는 최대 1M 토큰입니다.
  • (공식) 전체 594B 파라미터 중 토큰당 17B가 활성화되는 희소 MoE입니다. 저장소는 Inkling-2-Small과 MXFP8 두 개이며 모두 594B로 표기됐습니다.
  • (제3자 자료) Artificial Analysis 지능 지수는 31점입니다.

우리 관점

Mac이나 PC에서 로컬로 돌리려면 594B 규모 가중치를 어떻게 올릴지가 관건인데, 하드웨어 요구량과 자체 호스팅 조건은 1차 출처에서 확인되지 않았습니다. 라이선스도 메타데이터와 LICENSE 파일 존재 여부가 다르다는 지적이 있어 사용 전 저장소를 직접 확인해야 합니다. 벤치마크 수치는 제3자 자료에서 온 것이므로 그대로 신뢰하기 어렵습니다.

출처와 관련 글

로컬 AI의 다른 소식

  1. NVIDIA, 과학 에이전트용 Nemotron for Science 공개 (nvidianews.nvidia.com)

    NVIDIA가 Nemotron 3.5 Super VL 기반 패키지를 발표했다. 화학 데이터셋과 post-training 레시피가 포함되며, IR 사본은 이 모델을 128GB DGX Spark에서 로컬 실행하도록 최적화했다고 밝혔다.

    로컬 AI| |출처 1곳 |우리 관점 있음
  2. NVIDIA RTX Spark 소형 데스크톱 출하 시작 (blogs.nvidia.com)

    ASUS, Dell, MSI의 RTX Spark 소형 데스크톱이 발표일 기준 출시되었고, 로컬 AI 에이전트와 모델 파인튜닝용으로 소개되었다. 가격은 NVIDIA 페이지에서 확인되지 않았다.

    로컬 AI| |출처 1곳 |우리 관점 있음
  3. llama.cpp b12497, tiny-voca 지원 추가 (github.com)

    llama.cpp pre-release b12497에서 멀티모달 경로에 tiny-voca 지원이 추가되고 G2P 변환이 개선되었다. 릴리스 페이지에는 성능 수치와 대상 모델에 대한 설명이 없다.

    로컬 AI| |출처 1곳 |우리 관점 있음

소식 전체 보기