Следить за развитием искусственного интеллекта теперь требует понимания не только моделей и алгоритмов, но и быстро меняющегося словаря, включающего новые технические сокращения и понятия. Это руководство объединяет основные термины, необходимые разработчикам, продуктовым командам и технически грамотным читателям для понимания того, что происходит за интеллектуальными помощниками и генеративными моделями.
Эти понятия варьируются от основ, таких как обучение, рассуждение и веса, до других, связанных с более новыми приложениями, такими как агенты искусственного интеллекта и протокол Model Context Protocol. Руководство также рассматривает термины, появившиеся в современных дискуссиях об эффективности и наблюдаемости моделей, например «непрозрачное рассуждение» (Opaque recurrence).
Понятия, на которых строится модель и её работа
Большая языковая модель (LLM) — это глубокая нейронная модель, которая изучает взаимосвязи между словами и фразами на основе огромных объёмов книг, статей и текстов. Получив запрос, модель генерирует наиболее вероятный шаблон, соответствующий ему. Эти модели используются в ChatGPT, Claude, Google Gemini, Meta AI Llama, Microsoft Copilot и Mistral Le Chat.
Обучение — это процесс, в ходе которого модель изучает закономерности на основе данных, тогда как рассуждение означает запуск модели для создания прогноза или ответа на основе изученного. Аппаратное обеспечение, используемое для рассуждения, — от процессоров телефонов до GPU и ускорителей искусственного интеллекта — влияет на скорость работы модели и её способность обрабатывать крупные модели.
Веса определяют степень важности различных признаков внутри модели и изменяются в процессе обучения, пока выходные данные не приблизятся к требуемой цели. Потери на проверочных данных (Validation loss) измеряют, насколько хорошо модель обучилась на проверочных данных; обычно более низкое значение предпочтительнее, но этот показатель также помогает выявлять переобучение, когда модель запоминает обучающие данные вместо изучения закономерностей, пригодных для обобщения.
Глубокое обучение обозначает модели, использующие многослойные нейронные сети, тогда как нейронная сеть описывает более широкую вычислительную структуру, лежащую в основе этих моделей. Такие системы обычно требуют больших объёмов данных и больше времени на обучение по сравнению с более простыми алгоритмами, что повышает стоимость разработки.
Как модели специализируются и становятся эффективнее?
Тонкая настройка (Fine-tuning) позволяет продолжить обучение существующей модели с использованием специализированных данных для конкретной задачи или отрасли. Трансферное обучение (Transfer learning) использует предварительно обученную модель как отправную точку для другой задачи, что может сократить время разработки, когда данных для новой задачи мало, однако не отменяет необходимости в дополнительных данных, подходящих для конкретной области.
При дистилляции (Distillation) крупная модель выступает в качестве «учителя», а её выходные данные используются для обучения меньшей модели, которая пытается имитировать её поведение. Потенциальный результат — менее крупная и более эффективная модель с некоторой потерей производительности. Источник указывает, что дистилляция выходных данных конкурирующей модели может нарушать условия использования API или помощников.
Архитектура смеси экспертов (Mixture of Experts) разделяет сеть на специализированные блоки, активируя для каждого запроса лишь их часть. Это позволяет создавать крупные модели с сокращением вычислений, необходимых для каждой операции. Mixtral от Mistral AI является известным примером, тогда как широко считается, что более новые модели GPT используют некоторую форму этой архитектуры без официального подтверждения со стороны OpenAI.
Модели диффузии (Diffusion) используются для создания изображений, музыки и текстов. Они постепенно добавляют к данным шум, а затем учатся обращать этот процесс, восстанавливая данные из шума. GAN объединяет сеть, создающую выходные данные, и другую сеть, оценивающую их; такие модели использовались для создания реалистичных изображений и видео, особенно в более узких приложениях, таких как инструменты для создания дипфейков.
Агенты и подключение к инструментам
Агент искусственного интеллекта отличается от базового чат-бота предполагаемой способностью выполнять от имени пользователя последовательность действий, например бронировать билет, обновлять код или взаимодействовать с внешним сервисом. Однако у этого термина нет единого определения, а архитектура, необходимая для предоставления таких возможностей, всё ещё находится в стадии разработки.
Агенты программирования специализируются на написании, тестировании и отладке кода, а также на работе с целыми репозиториями, а не только на предложении фрагмента программы. Тем не менее, согласно материалу, проверка человеком остаётся необходимой, поскольку агент может выполнять масштабные действия при ограниченном надзоре.
Конечные точки API похожи на скрытые кнопки, позволяющие одной программе запрашивать услугу у другой программы. По мере роста возможностей агентов они могут обнаруживать эти точки и использовать их для выполнения автоматизированных операций, что открывает практические возможности, но также может приводить к непредсказуемому поведению. Model Context Protocol (MCP) выступает в качестве открытого стандарта, позволяющего моделям подключаться к файлам, базам данных и приложениям без создания отдельного коннектора для каждой связи. Anthropic представила протокол в 2024 году, затем передала его Linux Foundation, а позднее его приняли OpenAI, Google и Microsoft.
Что практически важно в этих терминах?
Эти понятия показывают, что производительность системы искусственного интеллекта зависит не только от самой модели. Параллелизм позволяет выполнять тысячи операций одновременно на GPU, тогда как пропускная способность по токенам (Token throughput) измеряет объём работы, который система способна выполнять за определённый период; это влияет на количество пользователей, которых можно обслуживать, и на скорость ответа.
Токен (Token) — это небольшая единица текста, которая может быть частью слова; он используется при вводе и обработке языка, а также при тарификации услуг моделей. Кэширование памяти, особенно KV caching, помогает сокращать повторяющиеся вычисления во время рассуждения и ускорять ответы.
При этом галлюцинации остаются одной из крупнейших проблем качества: модель может выдавать неверную информацию или вводящие в заблуждение советы, включая потенциально опасные медицинские ответы. Источник указывает, что этот риск связан с пробелами в обучающих данных и является одной из причин, по которым развиваются более специализированные модели, ориентированные на конкретные области.
Среди терминов, заслуживающих особого внимания, — непрозрачное рассуждение. Оно означает многократную передачу запроса через слои модели вместо отображения последовательных шагов рассуждения на понятном языке. Такой подход может быть более эффективным и позволять меньшим моделям показывать более высокие результаты при использовании меньшего объёма вычислений, однако он оставляет меньше доступных для чтения следов, что затрудняет обнаружение исследователями нежелательного поведения. С ним связан термин рекуррентная глубина (Recurrent depth), который примерно описывает тот же инженерный подход.
А «Neuralese» — это гипотетический сценарий, в котором модель полностью рассуждает с помощью собственных цифровых представлений, без понятного человеческого языка. Источник отмечает, что ни одна представленная модель не достигла этого состояния, а OpenAI заявила, что модель Astra, выпущенная в сентябре 2026 года, сохраняет читаемость цепочки рассуждений, несмотря на обеспокоенность исследователей безопасности возможностью её использования для непрозрачного рассуждения.
Ценность этого словаря заключается в том, что он различает понятия, которые часто смешиваются в общественной дискуссии: обучение не является логическим выводом, агент — это не просто чат-бот, а «открытый исходный код» не обязательно означает, что все компоненты модели доступны одинаковым образом. Кроме того, более новые термины, особенно связанные с автономностью и прозрачностью, по-прежнему имеют различающиеся определения и порождают открытые вопросы о границах контроля и безопасности.