Validation protocol

证据分层、更新节奏与失败判据

预测必须能说明依据是什么、何时复查、什么观察会降低置信度。无法被现实改变的判断,不进入台账。

事实

可复核观察

合同结构、产品价格、公开财务指标、客户案例中的量化结果。记录时间、口径与来源。

推断

事实之间的机制连接

例如“推理降价将压低功能溢价”。必须写明中间机制,避免把相关性当因果。

预测

带期限与概率的未来判断

写入观察窗口、方向、置信度和可否证信号;到期不允许静默延期。

反证

主动寻找相反案例

优先检查表现最强的反例,而非只累积支持材料。反证改变机制时应重写预测。

不确定

当前无法可靠判断

指出缺少的数据、测量障碍与可能分叉。未知不是预测失败,而是边界声明。

更新回路

  1. 登记:为预测分配编号,记录日期、期限、置信度与因果链。
  2. 采样:每月记录价格、产品边界和可比案例;每季检查单位经济与采购行为。
  3. 反证:为每条预测至少维护一个能推翻核心机制的观察。
  4. 修订:置信度变化超过 10 个百分点时,记录新增证据与修订理由。
  5. 结算:到期判断方向是否正确,同时检查是否靠模糊措辞逃避失败。

置信度校准

置信度不是文案语气。单个支持案例只证明“可能”,不能证明“多数”;机制证据与总体分布分开计分;存在能击穿原因果链的高质量反例时,必须先降置信度再改写命题。首次证据化允许任意幅度修正,后续常规更新超过 10 个百分点必须留下变更日志。

优先级:最接近现金流的证据

等级 证据 适合回答 主要局限
A 审计财务、正式合同与可核真实使用数据 收入质量、成本、留存 常不可得或披露滞后
B 官方政策、公开定价、多客户可比案例与采购记录 采用与定价单位 样本选择偏差
C 产品测试、技术评测、工程测量 能力、延迟、单位成本 不等于组织愿意付费
D 管理层/产品营销表述、媒体叙事、单点案例 形成待验证假设 激励偏差与不可比

五个核心监测指标

每完成任务的总成本包含模型、工具调用、复核、失败重试和支持。
从试点到生产的转化率区分演示价值与组织可部署性。
合同扩张来源来自更多席位、更多任务,还是提价。
人工介入曲线随任务规模扩大,复核比例是否真正下降。
平台吸收速度独立功能被基础模型或既有软件复制所需时间。

停止与降级规则

出现以下任一情况,应降低置信度而非追加解释:关键指标连续两个观察期反向;核心因果变量无法测量;预测期限到期但目标概念仍无法明确判定;反例在更高质量证据上重复出现。

纪律

不能用新叙述挽救旧预测

若原预测依赖“模型差异形成溢价”,后来利润实际来自实施服务,应把原预测判错或部分错误,再登记新预测,而不是改写旧定义。