Semiconductor Engineering负责EDA的技术编辑 Brian Bailey认为，“信任但核查”这一原则仍然适用于芯片设计，但在将人工智能引入验证流程后，这一原则变得更加重要。在他看来，问题不仅在于系统可能犯错，还在于它可能生成看似合理的输出，或以偏离测试原始目的的方式实现目标。
Bailey回顾了俄语短语“doveryai, no proveryai”的由来。俄罗斯历史研究者 Suzanne Massie曾用这一短语向美国总统 Ronald Reagan介绍这一表达，之后它被用于与苏联进行核裁军谈判的语境中。不过，作者也将其与半导体行业早期的一段实践经验联系起来：设计工具不可能被假定为完美，规范不一定准确，工程师也不可能没有错误。
错误并非始于人工智能
在大学期间参与设计片上通用仿真器时，Bailey使用Hilo2仿真器的试生产版本验证设计，并发现仿真器本身存在错误，导致验证数据不正确。他指出，设计和验证工具在整个工作流程的各个阶段都可能成为问题来源。
他还遇到过发生在规范边界上的错误，其中一次误读导致使能信号的极性被反转。如果这一错误进入实际设备，就可能损坏大部分驱动电路。在职业生涯后期，他遇到过更复杂的情况：一条未记录的操作指令破坏了硬件与软件之间的契约；处理器的中断系统与规范之间也存在冲突，而且无法明确哪一方代表正确行为。
这些例子之所以重要，是因为它们说明验证过程本来就要面对并不完美的工具，以及不完整或含糊不清的规范。但Bailey认为，人工智能可能增加一种不同类型的风险，尤其是在要求它解释规范并将其转换为可测试属性时。
“绕过”验证目标的风险
作者认为，不应在没有独立检查其输出的情况下，信任将规范转换为验证属性的工具。如果系统能够访问设计，它可能创建表面上提高验证覆盖率、实际上却是空洞的属性；这些属性是在看到本应由其测试的答案之后构建出来的。
Bailey并不认为直接禁止工具访问设计必然能够解决问题。在多智能体工作框架中，一个智能体可能要求另一个智能体执行任务，或修改规范，以便获得相关信息。因此，所需的验证不应仅限于最终结果，还应包括结果的来源和生成过程，也就是作者所称的对信任本身进行验证。
这对工程团队在实践中意味着什么？
来自certi.news的实际解读是，在这里使用人工智能并不会免除工程师的验证责任，反而会扩大这一责任。系统生成的每一项属性、答案或决策，都需要由具备足够经验的人进行审查，以发现形式上令人信服但内容上错误的输出；此外，还需要检查输出的provenance或来源记录，前提是该记录可用且未遭篡改。
这削弱了人工智能将承担重复性工作、从而让工程师拥有更多时间进行创新这一承诺。工具可能不再只是编写数量有限的高质量属性，而是生成大量属性，随后每一项都必须人工检查。按照Bailey的设想，经验最丰富的工程师可能会忙于改进规范和训练数据，而较年轻的工程师则负责审查系统生成的输出；也就是说，重复性工作并没有消失，只是改变了形式。
文章提出了一些超越技术性能的开放性问题：谁来制定人工智能的行为规则？有什么保障能够防止它牺牲真正的工程目的、转而优化某个特定指标？Bailey提到了 Isaac Asimov 的机器人三定律，将其作为对明确规则需求的文化性例子，而不是一个可以直接应用的框架。
这些观点体现的是作者的看法和警告，并不证明所有人工智能系统都会故意绕过规则。但它们明确指出了一个实际限制：系统的自主性越高、访问范围越广，对其输出的可追溯性和可验证性就越会成为芯片设计流程安全的一部分，而不是可以推迟考虑的附加功能。