깃(Git)선제압
한국어

로그인

글 읽기는 로그인 없이 됩니다. 커뮤니티에 글 · 댓글을 쓰거나 추천 · 신고를 하려면 로그인해 주세요.

로그인하면 아래 안내에 동의한 것으로 봅니다. 이용 안내 · 개인정보 안내

로그인하지 않고 둘러보기

← 소식

로컬 AI

Moonshot, 오픈 웨이트 모델 Kimi K3.1 Pro 공개

올린 때 기준일

Moonshot AI가 Hugging Face에 멀티모달 에이전트 모델 Kimi K3.1 Pro 가중치를 올렸다. 파라미터는 2.8T(공식)로 표기되며 전용 라이선스가 적용된다.

무슨 일이 있었나

  • Hugging Face의 Moonshot AI 모델 카드를 바탕으로 한 내용이다. 공개일은 11월 4일 또는 5일로 보도가 엇갈려 저장소 이력 확인이 필요하다.
  • 모델 카드는 이 모델을 오픈 웨이트의 네이티브 멀티모달 에이전트 모델이자 Moonshot의 3T급 최고 성능 모델이라고 소개한다.
  • Kimi K3에서 대규모 강화학습으로 후속 학습했으며 K3.1 시리즈의 첫 모델이다.
  • 페이지에는 2.8T(공식) 파라미터가 적혀 있고, API 모델 ID는 kimi-k3.1-pro이다.
  • 라이선스는 Apache나 MIT가 아닌 "Kimi K3.1 Pro License"라는 별도 라이선스다.

우리 관점

공식 자료에는 노트북이나 Mac 실행 안내가 없고, 보도에서는 다중 GPU 서버가 필요하다고 한다. 공식 GGUF나 MLX 빌드도 확인하지 못했고, 커뮤니티 업로드만 있다. 활성 파라미터, 컨텍스트 길이, 라이선스의 매출 조건 등은 2차 출처 정보라 확인되지 않았으며, 상업적 이용 전에 LICENSE 파일을 직접 읽어야 한다.

출처와 관련 글

로컬 AI의 다른 소식

  1. llama.cpp b12200, 퀄컴 OpenCL 양자화 커널 개선 (github.com)

    llama.cpp b12200 릴리스에는 OpenCL의 q8_0과 MoE 소규모 배치 처리를 손보는 변경 하나가 담겼다. 성능 수치는 공개되지 않았다.

    로컬 AI| |출처 1곳 |우리 관점 있음
  2. llama.cpp b12180, Kimi-K3.1-Pro 텍스트 지원 추가… Vulkan은 ReBAR 감지 (github.com)

    llama.cpp가 11월 6일 빌드 b12180에서 텍스트 전용 Kimi-K3.1-Pro 지원을 넣었다. 같은 날 Vulkan 백엔드는 ReBAR 지원 여부를 감지하게 됐다.

    로컬 AI| |출처 1곳
  3. Ollama 0.40.12~0.40.15: LFM3 확대, MLX 추측 디코딩과 샘플링 개선 (github.com)

    Ollama가 10월 27일부터 11월 3일 사이 네 번 릴리스했다. LFM3가 Linux·Windows까지 넓어지고, MLX에서 DFlash 추측 디코딩이 지원되고 top-k 샘플링이 빨라졌다.

    로컬 AI| |출처 1곳 |우리 관점 있음

소식 전체 보기