Unsloth Kimi K3 1비트 양자화 모델

GIF https://unsloth.ai/docs/models/kimi-k3 로컬 모델을 돌려보고 싶다면 다 필요없이 이 팀이 만든 모델하고 llama.cpp와 조합하여 사용하면 될 정도로 유명한 그룹입니다. 128GB 맥 스튜디오로 구동 했다고 하네요. 정확도는 원본 대비 78% 정도의 정확도를 보인다고 합니다. 현재 로컬에서 돌아가는 가장 강력한 모델이라고 합니다.