깃(Git)선제압
한국어

← 소식

로컬 AI

Perplexity, pplx-decider v1.3·Flash v1.3 모델 공개

올린 때 기준일

Perplexity가 pplx-decider v1.3과 Flash v1.3을 공개했다고 Hugging Face 모델 카드와 커뮤니티 공지에 밝혔다. 공개 접근 방식과 라이선스는 원문 간 설명이 달라 직접 확인이 필요하다.

무슨 일이 있었나

  • Perplexity의 Hugging Face 모델 카드와 커뮤니티 공지(2026-11-12)에 따르면 26B 규모의 v1.3과 Flash v1.3이 발표됐다.
  • 카드는 v1.3을 v1.2의 후속 모델이며 Qwen3.8-27B 기반이라고 설명한다.
  • 자체 호스팅에는 Python 3.12 이상과 BF16 가중치용 약 49 GiB 이상의 메모리를 갖춘 CUDA GPU가 필요하다고 (공식) 밝혔다.
  • 출력은 생성 텍스트가 아니라 확률이며, v1.3에는 유형이나 지시문에 따라 구간을 추출하는 locate 기능이 추가됐다.
  • 접근 방식은 확인이 필요하다. 확인한 카드 본문에는 저장소가 비공개라 토큰이 필요하다는 문구가 있으나, 2차 보도는 공개 가중치와 Apache 2.0 라이선스로 보도해 서로 맞지 않는다.

우리 관점

Mac, PC, 글래스에서 로컬로 돌리려는 사람에게는 약 49 GiB 메모리 요구량이 큰 부담이다. 2차 보도에 따르면 GGUF 파일이 아직 없어 llama.cpp나 Ollama로 바로 실행하기는 어려울 수 있다. 공개 여부, 라이선스, 벤치마크 수치는 아직 확인되지 않았고, Ollama의 pplx-decider 지원은 별도 사안으로 봐야 한다.

출처와 관련 글

로컬 AI의 다른 소식

  1. NVIDIA, 과학 에이전트용 Nemotron for Science 공개 (nvidianews.nvidia.com)

    NVIDIA가 Nemotron 3.5 Super VL 기반 패키지를 발표했다. 화학 데이터셋과 post-training 레시피가 포함되며, IR 사본은 이 모델을 128GB DGX Spark에서 로컬 실행하도록 최적화했다고 밝혔다.

    로컬 AI| |출처 1곳 |우리 관점 있음
  2. NVIDIA RTX Spark 소형 데스크톱 출하 시작 (blogs.nvidia.com)

    ASUS, Dell, MSI의 RTX Spark 소형 데스크톱이 발표일 기준 출시되었고, 로컬 AI 에이전트와 모델 파인튜닝용으로 소개되었다. 가격은 NVIDIA 페이지에서 확인되지 않았다.

    로컬 AI| |출처 1곳 |우리 관점 있음
  3. llama.cpp b12497, tiny-voca 지원 추가 (github.com)

    llama.cpp pre-release b12497에서 멀티모달 경로에 tiny-voca 지원이 추가되고 G2P 변환이 개선되었다. 릴리스 페이지에는 성능 수치와 대상 모델에 대한 설명이 없다.

    로컬 AI| |출처 1곳 |우리 관점 있음

소식 전체 보기