블로그
유튜브에 올린 영상의 내용을 글로 다시 정리합니다. 영상을 보기 어려운 곳에서도 숫자와 표를 천천히 확인할 수 있습니다.
무료 챗GPT급 로컬 AI, 24GB 한 장이면 될까? 3090·5090·맥 미니 실측
24GB 그래픽카드 한 장(RTX 3090, 4비트)이면 무료 챗GPT급 로컬 AI와 같은 줄에 섭니다. 3090·5090·맥 미니 M6를 같은 문제로 직접 재 본 메모리·속도·품질 표와 비교 기준, 한계를 정리했습니다.
스트라타(Strata) 맥 미니 32GB 실측 생각 켠 10.3~22.1토큰, 27B와 비교
맥 미니 M6 32GB에서 Qwen3.8 Flash-Next Q2_0(66.4GB)를 스트라타로 쟀습니다. 속도 10.3~22.1토큰(생각 켠 형식), 150문항·코딩 52문제 정답은 27B 4비트와 차이 확인 못 함. 개발자 값은 따로 표기.
맥 미니 M6 32GB 큐웬 3.8 27B 4비트 실측: JSON 49.7토큰, 한국어 8.8토큰
맥 미니 M6 32GB에서 Qwen3.8 27B 4비트 파일 3종과 MTP·DFlash2를 쟀습니다. 가장 빠른 조합이 JSON 49.7토큰이지만 한국어는 8.8토큰. 가장 빠른 파일은 품질 손실도 최대(기준 UD-Q6_K).