可审计的AI运行时系统赚钱指南

可审计的AI运行时系统：如何让AI生成的每一个数字都能背书

每个运营负责人都经历过这样的时刻：一份报告掉到了桌上，报告里有一个关键数字，那个数字直接决定了下一步的行动。你读到数字的那一瞬间，就会问出无数次被提及的问题：这个数字从何而来？

如果是人撰写的报告，你可以直接找到作者问个清楚。但如果是AI写的报告，市面上绝大多数的AI系统却拿不出答案。这个数字是AI生成的，结果也许是正确的，但“可能正确”这种说法，恐怕拿不到审计机构、银行，甚至是董事会面前。

整个行业把这个问题当作是准确性竞赛看待：更先进的模型、更高的基准分数、更少的错误。但我们认为，竞赛本身就把问题界定错了。决定AI是否能真正运行起来的关键，不是模型有多准，而是当别人问起时，系统能够证明什么。这份白皮书是Simple AI v2的说明文档。它不仅是Ally当前所使用的运行时，更已在真实的 Payroll 系统中得到应用。接下来，我们将讲述v2有何不同、如何衡量，以及在阅读完这篇文档后，你应该问每一个供应商（包括我们自己）的那个问题。

定义先行：澄清两个关键概念

• Agent：与工具协同、处于循环中的模型。
• Runtime（又称Harness）：围绕Agent循环之外的所有内容——它拥有状态、证据、权限、预算，以及决定何时结束任务的逻辑。

这个区别关系到整个争论。模型就像一位出色但毫无记忆、不承担责任的承包商；而Runtime，才是那份契约。本文中所有的保证，都是Runtime的特性，这意味着它们与模型本身的优劣无关，无论模型那天是多准还是多自信。

什么时候不需要这种架构

如果你的AI只用来起草邮件或撰写摘要，并且所有内容在进入下一步操作前均需人工阅读，那么仅依靠输出优先的工具即可。因为在这种场景下，人本身就是那个Runtime。

但这种架构一旦涉及到以下情况，就显得至关重要：

• 触达业务记录系统
• 涉及资金支付
• 关联合规义务
• 输出中包含他人将据此做出决断的数字

一旦跨越了这条线，“模型通常是对的”这种安慰就不再适用了。我们的客户在第一天就跨越了这条线，因为工资条、采购订单、OSHA合规性等事项，都位于这条线的另一侧。

v2正是为这条线的另一侧而生。以下三个设计决定推动了它的实现，接下来的三个部分将逐一解析。

设计决策一：模型只指引，服务器负责写入

在大多数AI系统中，模型会直接输出完整的答案，其中包含每一个事实，系统试图在输出过程中尽可能多地捕捉错误。这种做法意味着必须依赖捕获率，并且必然存在遗漏。

在v2中，事实并非来自模型的输出。当模型试图陈述一个事实——比如一个数字、一个名称、一个日期或状态时，它并不会直接填写该事实，而是写入一个指向Evidence中已保存内容位置的指针。这个指针是一个包含三个必填字段的引用标记：值的地址、值本身以及需要该值的原因。

举个例子，项目经理询问某笔付款申请中暂扣金额时，模型实际书写的内容如下：

Retainage held on this application is<<[EVD:MSG000841-2/result/retainage_held;;retainage held on this pay application;;the value the question asks for]>>.

而用户看到的则是：

Retainage held on this application is $84,210.50。

服务器会根据指针所提供的地址，从之前保存的查询结果中提取出实际存在的值，并通过统一格式化器进行渲染。该格式化器统一管理分隔符、四舍五入以及货币显示格式，从而保证系统内的每一个数值都采用一致的展示方式。

无论是读者、审查者，还是审计记录，最终接收到的字符串都是一致的。模型永远不会参与数字的选择或格式设定。甚至连语法也不依赖于数字。相同的指针机制可以引用任意从Evidence中读取的事实：

• 采购订单中的供应商信息
• 保险证书的过期日期
• 审批流程的当前状态

总之，只要某个事实是从某个地方读出来的，就只会从那个地方呈现出来，绝不从其他渠道替代。