首页 / 安全合规 / 正文
安全实践 · 实践

从 0 到 1:构建可审计的大模型调度系统

颐元优控 · 2026-05-22 · 阅读约 8 分钟

当企业的AI调用出问题时——多花了钱、答错了内容、泄露了敏感词——第一个问题永远是『到底哪次调用、哪个环节出了问题』。可审计性就是提前为这个问题准备好答案。本文记录颐元优控从零构建可审计调度系统的设计决策与取舍。

一、什么是『可审计"

我们对可审计的定义是三个『任何』:任何一次调用可以还原完整上下文;任何一个路由决策可以解释依据;任何一笔计费可以追溯到请求明细。三者缺一,审计就有盲区。

二、设计原则:先想清楚『给谁审"

审计者关心什么对应设计
客户管理员部门/项目花了多少、异常调用在哪多维归集报表+调用明细导出
客户安全团队敏感词、越权调用、数据流向内容安全审计视图+数据不出企业承诺
监管/认证机构操作留痕完整性、访问控制有效性防篡改日志+权限变更留痕
平台自身故障复盘、计费争议仲裁请求级全链路追踪

三、核心设计之一:请求级全链路追踪

每个进入调度系统的请求获得全局唯一trace_id,贯穿以下环节:

  1. 接入层:调用方身份、IP、时间戳、请求摘要
  2. 风控层:规则命中情况、放行/拦截决策及依据
  3. 路由层:候选模型集合、五维评分快照、最终选择及理由
  4. 执行层:目标模型、实际Token用量(含重试)、耗时
  5. 计费层:计费规则版本、金额计算过程

关键取舍:路由评分快照必须落库。早期版本只记录最终选择,客户质疑『为什么这条请求用了贵模型『时无法回答。补上评分快照后,每个决策都可复现、可解释——这也是ROI归因分析的数据基础。

四、核心设计之二:防篡改的审计日志

审计日志采用仅追加+哈希链设计:每条记录包含前一条哈希,形成链条。后台任务周期性对链做校验点(checkpoint),并把校验点哈希同步到独立的存储介质。即便数据库管理员也无法在不被发现的情况下修改历史记录。

五、核心设计之三:多维归集与明细的一致性

报表层的『部门月度消耗』必须能与明细层的请求级记录逐级加总对上。我们采用同源计算策略:报表不是独立统计,而是从明细层物化生成,任何一方的数字不一致都是bug而非『口径问题』。这与颐科财税科技财务系统『账表同源』的治理原则一脉相承。

六、工程上的三个教训

七、结语

可审计不是合规的应付动作,而是平台信任的底层结构。当客户能自己验证『每一笔账、每一次决策』,商务谈判中的信任成本会大幅下降。这大概是颐元优控从财税行业带过来的最朴素也最有效的经验:先算清楚,再谈其他。

← 返回安全合规 返回首页
© 2026 广东颐元优控智能科技有限公司 版权所有 · 粤ICP备2024321791号-3