如今，关注人工智能不仅需要理解模型和算法，还需要破解一本快速变化的词典，其中包含各种缩写和新技术概念。本指南汇集了开发者、产品团队和技术读者理解智能助手与生成式模型背后运行机制所需的主要术语。
这些概念既包括训练、推理和权重等基础术语，也包括人工智能代理和 Model Context Protocol 等较新的应用相关概念。本指南还介绍了近期关于模型效率和可监控性的讨论中出现的术语，例如“隐性推理”（Opaque recurrence）。
构建并运行模型的概念
大型语言模型（LLM）是一种深度神经模型，通过海量书籍、文章和文本学习词语与短语之间的关系。当接收到请求时，模型会生成最有可能与该请求相符的模式。这些模型被用于 ChatGPT、Claude、Google Gemini、Meta AI Llama、Microsoft Copilot 和 Mistral Le Chat。
训练是模型从数据中学习模式的过程，而推理则是运行模型，根据其所学内容生成预测或答案。用于推理的硬件——从手机处理器到 GPU 和人工智能加速器——会影响模型的运行速度以及处理大型模型的能力。
权重决定模型内部不同特征的重要程度，并在训练过程中不断变化，使输出逐渐接近所需目标。验证损失（Validation loss）衡量模型在验证数据上的学习质量；通常数值越低越好，但它也有助于发现过拟合，即模型记住了训练数据，而不是学习可泛化的模式。
深度学习指使用多层神经网络的模型，而神经网络则描述这些模型所依托的更广泛计算结构。与更简单的算法相比，这些系统通常需要大量数据和更长的训练时间，从而提高开发成本。
模型如何实现专业化并提高效率？
微调（Fine-tuning）允许使用针对某项任务或特定行业的数据继续训练现有模型。迁移学习（Transfer learning）则将预训练模型作为另一项任务的起点；当新任务的数据有限时，这可能缩短开发时间，但并不意味着不再需要适合该领域的额外数据。
在蒸馏（Distillation）中，大型模型充当“教师”，其输出被用于训练一个试图模仿其行为的小型模型。这样可能得到体积更小、效率更高的模型，但也会损失一定性能。消息来源指出，对竞争对手模型的输出进行蒸馏可能违反 API 或助手的使用条款。
专家混合架构（Mixture of Experts）将网络划分为多个专业模块，并针对每个请求只激活其中一部分。这样可以构建大型模型，同时减少每次操作所需的计算量。Mistral AI 的 Mixtral 是一个知名示例，而人们普遍认为较新的 GPT 模型使用了这种架构的某种形式，但 OpenAI 尚未正式确认。
扩散模型（Diffusion）用于生成图像、音乐和文本。它们逐步向数据中添加噪声，然后学习逆转这一过程，从噪声中恢复数据。GAN则由一个生成输出的网络和另一个评估输出的网络组成，曾被用于生成逼真的图像和视频，尤其是在深度伪造工具等范围较窄的应用中。
代理与工具连接
人工智能代理与基础聊天机器人不同，据称它能够代表用户执行一系列步骤，例如预订机票、更新代码或操作外部服务。但这一术语尚无统一定义，提供这些能力所需的架构仍在开发之中。
编程代理专门负责编写、测试和调试代码，并在完整代码仓库中工作，而不只是提出一段代码。不过，根据本文内容，人工审核仍然不可或缺，因为代理可能在有限监督下执行范围广泛的操作。
API 端点类似于后台按钮，允许一个程序向另一个程序请求服务。随着代理能力增强，它们可以发现并使用这些端点来执行自动化操作；这既带来了实际可能性，也可能产生意外行为。Model Context Protocol（MCP）是一项开放标准，使模型能够连接文件、数据库和应用，而无需为每种关系单独构建连接器。Anthropic 于 2024 年推出该协议，随后将其移交给 Linux Foundation，之后 OpenAI、Google 和 Microsoft 也采用了该协议。
这些术语在实际中有什么重要意义？
这些概念表明，人工智能系统的性能并不只取决于模型本身。并行处理允许 GPU 同时执行数千项操作，而令牌吞吐量（Token throughput）衡量系统在一段时间内能够完成的工作量；这是影响系统可服务用户数量和响应速度的重要因素。
令牌（Token）是文本中的一个小单位，可能是一个单词的一部分，用于语言输入、处理以及模型服务计费。内存缓存，尤其是 KV caching，有助于减少推理过程中的重复计算并加快响应。
另一方面，幻觉仍是最大的质量问题之一：模型可能生成错误信息或误导性建议，包括可能带来危险的健康方面回答。消息来源指出，这一风险与训练数据中的缺口有关，也是推动开发更加专业化、领域化模型的原因之一。
值得特别关注的术语之一是隐性推理，它指的是让请求反复通过模型的各层，而不是以人类能够理解的语言展示连续的思考步骤。这种方式可能更加高效，使较小的模型能够以更少的计算实现更强的性能，但它留下的可读痕迹较少，从而使研究人员更难发现不良行为。与之相关的是循环深度（Recurrent depth）这一术语，它描述的工程方法大致相同。
“Neuralese”是一种假设情景，指模型完全通过其内部数字表示进行思考，而不使用人类能够理解的语言。消息来源称，目前任何已发布的模型都尚未达到这种状态；OpenAI 表示，其于 2026 年 9 月发布的 Astra 模型保持了思维链的可读性，尽管安全研究人员担心它会被用于隐性推理。
这部词典的价值在于，它区分了公共讨论中经常混淆的概念：训练并非推理，代理并不只是聊天机器人，“开源”也不一定意味着模型的所有组成部分都以相同的方式可用。此外，较新的术语，尤其是与自主性和透明度相关的术语，仍然存在不同的定义，以及围绕监督和安全边界的未决问题。