중국의 인공지능 기업 Moonshot AI가 자사 모델 제품군의 최신 버전인 Kimi K3.1 Pro와 더 빠른 속도를 제공하는 Highspeed 버전을 출시했다고 발표했습니다. 새로운 모델과 고속 버전은 Kimi 제품 및 회사의 API를 통해 액세스할 수 있으며, 오는 11월 4일까지 모델 가중치를 공식적으로 공개할 계획입니다.
Kimi K3.1 Pro 모델의 실질적인 기능은 무엇인가?
새로운 모델은 Kimi K3 모델을 기반으로 개발되었으며, 추가 학습 단계에서 더 많은 컴퓨팅 파워를 투입했습니다. 이 버전은 최대 100만 토큰의 컨텍스트 윈도우를 제공하여 매우 긴 텍스트 콘텐츠를 한 번에 처리할 수 있습니다. 회사 데이터에 따르면, 고속 버전(Highspeed)은 표준 모델 대비 2배에서 3배 빠른 속도로 작동합니다.
모델의 새로운 기능은 주로 소프트웨어 개발 및 3D 디자인 분야에 중점을 두고 있습니다. 회사는 K3.1 Pro가 기존 코드의 버그 수정뿐만 아니라 Unity, Unreal Engine, Godot와 같은 유명 엔진을 사용하는 게임 개발 프로젝트도 지원한다고 설명합니다. 또한 텍스트, 스케치, 참조 이미지를 기반으로 3D 모델을 생성할 수 있으며, Blender 소프트웨어 및 CAD(컴퓨터 지원 설계)용 코드를 작성하여 필요한 수정을 수행할 수 있습니다.
성능 및 금융 연구
성능 테스트에서 K3.1 Pro는 터미널 명령 인터페이스를 통한 프로그래밍 작업을 측정하는 Terminal-Bench 4.0 평가에서 65.7%의 성공률을 기록하며, 회사가 발표한 결과에서 일부 경쟁 모델을 앞섰습니다.
금융 연구 분야에서 회사는 재무 문서 검토, 여러 소스에서 제공되는 데이터 비교, 다단계 계산 수행 등 모델의 기능을 향상시키는 데 주력했습니다. 회사의 내부 검증 테스트에 따르면, 환각 현상이나 근거 없는 정보에 기반한 오류율이 이전 버전의 23.4%에서 8.3%로 감소했으나, 이 수치가 반드시 일반적인 일일 오류율을 반영하는 것은 아니라고 강조했습니다.
개발자에게 어떤 의미인가?
회사는 개발자들이 자체 인프라에서 모델을 실행하고 맞춤화할 수 있도록 모델 가중치를 공개할 예정입니다. 공개에 앞서, 회사는 취약점 악용이나 사이버 공격 능력을 제한하기 위해 학습 데이터 및 강화 학습 환경에서 사이버 보안 관련 콘텐츠를 제거했습니다.