在机构内部使用人工智能时,最棘手的问题并不在于找到信息,而在于确定哪些信息可以在实际决策时依赖。客户赋能页面可能指出某款产品支持某种使用场景,而支持部门中较新的对话却提到一项临时限制,工程师还可能补充一个与客户设置相关的条件。仅仅汇总这些来源,并不能回答这个问题:今天适用的是哪条信息,而且具体适用于这个客户?
这正是Stack Overflow材料中的核心观点:企业需要的是“可用于决策的知识”(decision-grade knowledge),而不只是看起来完整的答案。该材料是一篇解释Stack Internal平台开发背后逻辑的观点文章,并不是一份独立报告,无法证明该平台的性能或使用结果。
检索是过程的开始,而不是终点
公司指出,混合搜索、内容分块和结果重新排序技术,使连接不同工具以及查找相关页面、讨论和人员变得容易得多。但检索出三个相互冲突的来源,并不能确定其中哪一个适用于某个特定的产品版本、地区或客户设置。
当人工智能系统提供快速答案时,用户仍不得不审查来源、发现缺失的条件,并向专业同事请求确认。根据该材料,工作的最重要部分此时转移到了人身上,而不是消失了。
答案应当包含什么?
该材料提出,在依赖涉及工作或客户的答案之前,应具备五项要素:
- 来源:提供证据和信息来源记录,以便检查。
- 适用范围:说明答案何时、何地适用,包括版本、地区和客户设置。
- 权限:遵守来源访问限制以及机构设定的边界。
- 冲突:展示新指导意见与较早页面之间的差异,而不是将其隐藏。
- 所有权:确定能够裁决或解释例外情况的人。
Stack Overflow强调,仅引用来源或为答案提供置信度评分,并不足以独自承担对客户承诺的责任。这些工具有助于调查,但不能取代那些了解产品或流程的人员的判断。
专家的作用:不让他们成为瓶颈
在所提出的例子中,产品团队可以确认当前能力,工程团队可以解释设置条件,支持团队可以描述客户所遇到的问题。但公司并不建议专家审查人工智能生成的每一个答案;而是建议在答案影响较大但不确定、来源相互冲突,或许多人依赖的知识需要确认时介入。
更重要的是,介入的结果不应停留在单独的一次对话中。应保存答案及其适用条件和支持证据,同时保留日后修正的可能,并将修正与其所修改的指导意见关联起来。
Stack Internal如何呈现这一理念?
Stack Overflow表示,它正向更多人员和团队开放Stack Internal平台,以便将机构知识从各个来源汇集到一个共享层中,同时保留使用这些知识所需的上下文。该平台通过对话、API和MCP提供这些知识,并让专业专家参与内容验证和修正。
公司认为,同一个问题可能由对话用户提出,也可能来自使用API的内部应用或使用MCP的代理,因此这些渠道应当基于相同的来源、访问规则和人工贡献,即使界面有所不同。
还有哪些问题悬而未决?
该材料提出了一个未来方向:将已经解决困难问题的对话转化为可重复使用的知识,同时让证据、所有权和权限与其保持关联。公司还希望系统能够发现冲突和缺口,并在需要时召集合适的人员。
但文章承认,其中许多工作仍在开发中,公司在系统能够预判问题并展示相关决策或未解决冲突之前,“还有很多需要证明和构建的内容”。目前明确的实际价值,是提出了一个管理机构知识的框架;至于平台的准确性、有效性以及邀请专家参与的成本,来源并未提供数字或独立结果。