基于大语言模型的系统工程在生产环境中经历了根本性的转变，从仅与简单连接代码相关的文本和随机指令，转向了被称为“智能体架构”（Agentic Harnesses）的结构化执行框架。这一演进旨在为概率模型提供必要的编程支持，以确保在真实工作环境中的可靠性、可信度和可监控性。
第一阶段：链式与简单的线性操作
早期系统依赖于被称为“链”（Chains）的线性且简化的工作流。这种方法在诸如简单摘要等狭窄任务中具有执行速度快和计算成本低的特点。其核心思想是将第一步的输出作为第二步的输入，以此类推，并将模型作为接收并生成文本的“黑盒”来使用。
例如，LinkedIn 在其早期阶段使用了包含分类和路由的固定链，然后通过搜索工具检索数据以丰富响应，最后进行生成和过滤。尽管开发速度快，但这些系统在架构上存在脆弱性；由于缺乏自动响应和纠错机制，早期步骤中的任何错误都会导致整个工作流中断。
第二阶段：通过图式增强结构与控制
随着用例复杂性的增加，开发人员转向使用“图”（Graphs）结构，以引入条件分支、并行处理、重试机制和状态管理（State Management）。在这些结构中，节点代表不同的任务，而边则控制控制流。
这些结构允许设计具有主协调器的多智能体系统（Multi-Agent Systems），该协调器管理任务流和异步通信，以确保顺序性和连续性。这些架构被用于推出“招聘助手”（Hiring Assistant），使招聘人员能够自动化处理常规任务。然而，这些框架仍然受限于人工定义的工作流，在异常情况范围扩大时，可能会导致维护变得复杂。
第三阶段：编程作为推理的核心工具
最新的演进是依赖代码而非视觉语言指令作为推理的主要手段。这些架构不再仅仅通过文本解释问题，而是生成代码并在隔离且经过测试的环境中执行。
与语言模型不确定的概率输出相比，代码具有可验证的确定性特征。这种架构依赖于隔离的执行环境、日志与监控工具、自动验证结构以及迭代的调试循环，这些循环会纠正错误并重新运行代码，直到达到所需标准。LinkedIn 已在内部应用了这种方法，允许员工根据隐私和治理框架，通过结构化查询语言和 Python 进行数据查询。
智能体系统工程的最佳实践
- 将输出视为不可信数据： 在将模型输出传递给任何后续编程逻辑之前，必须验证其有效性。
- 将规划与执行分离： 允许模型提出计划，而由严格的编程框架负责执行过程。
- 投资于监控： 精确跟踪执行状态，以便在不损害敏感数据的情况下审查错误和状态日志。
- 持续开发： 构建分析反馈循环，以随着时间的推移不断提高系统性能。
选择合适的工程抽象
并非每个技术问题都需要图式或高级代码的运行复杂度。对于摘要和内容处理等直接任务，简单的链式结构仍然是时间和计算能力成本最低且最合适的选择。而当需要分支和状态控制时，图式变得必不可少；编程框架则用于需要严格精度和验证的关键领域，如软件工程和复杂数据分析。