Китайская компания в сфере искусственного интеллекта Moonshot AI объявила о выпуске новейшего представителя семейства своих моделей — Kimi K3.1 Pro, а также более быстрой версии под названием Highspeed. Доступ к новой модели и ее быстрой версии был открыт через продукты Kimi и фирменный интерфейс программирования приложений (API), при этом существуют планы по официальной публикации весов модели до 4 ноября.
Что на практике предлагает модель Kimi K3.1 Pro?
Новая модель была создана путем дальнейшего развития Kimi K3, причем этап дополнительного обучения потребовал больших вычислительных мощностей. Этот релиз поставляется с контекстным окном объемом до одного миллиона токенов, что позволяет ей обрабатывать крайне длинные текстовые материалы за один раз. Согласно данным компании, быстрая версия (Highspeed) работает в два-три раза быстрее по сравнению со стандартной моделью.
Новые возможности модели сосредоточены главным образом в сферах разработки программного обеспечения и 3D-дизайна. Компания поясняет, что K3.1 Pro не ограничивается лишь исправлением ошибок в существующем коде, но также поддерживает проекты по разработке игр с использованием таких популярных движков, как Unity, Unreal Engine и Godot. Она также способна генерировать трехмерные модели на основе текста, эскизов или референсных изображений, а также писать код для программного обеспечения Blender и систем автоматизированного проектирования (САПР/CAD) для выполнения необходимых модификаций.
Производительность и финансовые исследования
В бенчмарках K3.1 Pro продемонстрировал показатель успешности в 65.7% в оценке Terminal-Bench 4.0, которая измеряет задачи программирования через интерфейс командной строки, превзойдя некоторые конкурирующие модели в результатах, опубликованных компанией.
В области финансовых исследований компания поработала над улучшением возможностей модели по анализу финансовой документации, сопоставлению данных из нескольких источников и выполнению многошаговых расчетов. Внутренние тесты компании для проверки достоверности показали снижение уровня галлюцинаций или недостоверной информации на основе утверждений с 23.4% в предыдущей версии до 8.3%, при этом отмечается, что данный показатель необязательно отражает общий уровень ежедневных ошибок.
Что это значит для разработчиков?
Компания намерена опубликовать веса модели, чтобы помочь разработчикам запускать ее и настраивать на собственной инфраструктуре. Перед шагом по публикации компания удалила контент, связанный с кибербезопасностью, из обучающих данных и сред обучения с подкреплением с целью ограничения возможностей эксплуатации уязвимостей или проведения кибератак.