无法复现旧实验时,不要急着把结论全部作废。更稳妥的做法是先把原实验拆成“前提条件”和“观察结果”两层,再判断哪些前提已经变化。如果变化的是数据来源或工具状态,原结论通常只能降级为历史记录;如果变化的是业务自身的流量结构,原结论可能仍对某一段渠道有效,但不能外推到全部流量。下面用一个假设情境说明这个决策过程。
假设你在几年前做过一次记录:某段时间内调整了页面结构,随后第三方排名数据出现变化,于是你得出“结构改动有助于提升排名”的结论。现在你想复现,却发现原来的数据来源已经无法按相同方式取得。这时有两种可能,处理方式完全不同。
判断属于哪一种,可以做一个动作:把旧实验的每个前提写成一条可检查的陈述,例如“流量主要来自某类渠道”“统计周期为连续数周”“改动只涉及页面结构”。逐条核对今天是否仍成立。结果会直接影响下一步——前提大多不成立时,应停止复现尝试,转为归档;只有少数不成立时,才值得做局部对照。
无法复现不等于原观察是错的。有限结论可以保留三种形态:
降级的关键是写清“在什么条件下成立”。例如,把“改动提升排名”改写成“在旧统计口径且流量以某类渠道为主时,改动后排名数据曾出现同向变化”。这样既没有夸大,也没有丢掉可用信息。
假设某业务曾在旧版统计口径下记录过一次排名波动,当时同时调整了页面加载相关设置。今天想复现,但旧口径已无法取得。此时不要直接下结论说“设置无效”,也不要说“仍然有效”。可以按以下步骤处理:
这个动作的结果会决定下一步:如果替代数据方向一致且前提基本未变,可以做小范围对照;如果方向不一致或前提已明显变化,应把精力放在重新建立当前基线,而不是继续复现旧实验。
要保留有限结论,至少需要三类证据中的一类:原始记录的时间戳和统计口径说明;当时业务前提的书面描述;以及可区分的对照条件。缺少对照时,相关变化不能单独证明因果关系,因为同期还可能有其他合理解释,例如渠道波动、季节性变化或统计样本调整。
如果这些证据都不完整,结论仍可作为线索,但不应写成确定性判断。对已有实际业务的读者来说,更实用的做法是把结论放进“待核查”清单,并注明需要补齐哪一项证据才能升级为可复用结论。这样既避免了反复推翻,也不会把历史观察误当成今天的操作依据。