Недавнее исследование, опубликованное специалистами компании Google, сообщает о разработке специализированной модели искусственного интеллекта для программной инженерии под названием Gemini for Google (GfG). Эта модель призвана устранить разрыв, с которым сталкиваются общие большие языковые модели при работе с крупными и проприетарными программными системами компаний.
Проблемы общих моделей в программных средах
Несмотря на то, что более 75% программного кода в Google создается или набрасывается с помощью искусственного интеллекта, общим моделям не хватает глубокого знания частных библиотек, уникальных паттернов проектирования и внутренних языков программирования, на которых полагается компания. Чтобы решить эту проблему, исследовательская группа обучила модель Gemini на огромных внутренних данных объемом 1 триллион токенов.
Механизм обучения и практические результаты
При обучении GfG команда опиралась на полный жизненный цикл разработки, включая проверку кода, журналы ошибок, внутреннюю документацию и журналы операций. Чтобы гарантировать, что модель не утратит свои общие способности к рассуждению (явление, известное как «катастрофическое забывание»), исследователи использовали методы «промежуточного обучения» и «повторного воспроизведения данных» для интеграции специальных знаний при сохранении общей эффективности.
Тестирование, охватившее 29 тысяч разработчиков, показало ощутимые результаты: количество взаимодействий с ИИ, необходимых для выполнения задач, сократилось на 23,1%, а скорость отклика улучшилась на 8,9%. Кроме того, доля кода, генерируемого ИИ, который остается пригодным для использования без изменений в течение 14 дней, выросла на 16,8%.
Почему эта новость важна?
Это развитие событий знаменует собой сдвиг в том, как крупные компании полагаются на искусственный интеллект; цель больше не ограничивается использованием общих вспомогательных инструментов, а заключается в создании «корпоративных» моделей, понимающих технический контекст конкретной компании. Модель доказала свою эффективность в сложных задачах, таких как обновление крупномасштабных систем, где она способствовала сокращению затрачиваемого времени на 50% по сравнению с ручной работой, а также улучшила потребление вычислительных ресурсов за счет систем автоматической оптимизации кода.