블로그
유튜브에 올린 영상의 내용을 글로 다시 정리합니다. 영상을 보기 어려운 곳에서도 숫자와 표를 천천히 확인할 수 있습니다.
-
스트라타 RTX 3090 125B 양자화 5종 실측, 램 32GB 급이면 IQ3_S 프리필 2045→207 (youtube.com)
RTX 3090 한 장에서 스트라타로 큐웬 3.8 Flash-Next 125B 양자화 5종을 직접 쟀습니다. 한국어 정답률은 겹쳤고, 램 32GB 급에서 IQ3_S 프리필이 2045→207토큰/초로 떨어졌습니다.