第82章 复现包(1/4)
江临把那张写着【下一执行目标】的audit_log关掉,新建了一个空白的python文件。
minimal_leak_demo.
py
距离对方要求的24小时窗口期,还剩二十三个小时四十一分。
时间够用,但他没有任何懈怠的意思。
构造一个最小复现实验,听起来简单,做起来却是一桩挺讲究分寸的活。
第一,不能用平台提供的那3.
4Gb原始数据集的任何一个字节。
否则对方可以反咬一口,说他是利用了数据集本身的某种特殊结构在断章取义。
第二,不能太复杂。
如果脚本写得花里胡哨,依赖了一堆奇形怪状的库,对方的工程师在复核时光是配环境就要折腾半天,复核流程一拖,事情就容易被冷处理。
第三,必须锁死随机种子。
任何一个浮点数的微小波动,都可能被对方技术组归因于环境差异,进而拖慢复核流程。
江临盯着空白的代码窗口,思考了两分钟,然后开始动手,用numpy生成了一段由两个不同分布拼接而成的随机时间序列。
前八十个数据点,服从均值为零、标准差为一的正态分布,用来模拟训练窗口里平稳的市场行情。
后二十个数据点,被他人为地注入了几个三倍标准差以上的极端值,用来模拟测试窗口里突然出现的异常事件。
整个数据构造过程,不超过十行代码。
随机种子被锁定为42。
为了避免随机数生成器版本差异,他干脆删除了随机生成过程,直接把一组最小合成序列硬编码进脚本。
数字没有任何金融含义,只用于证明一个数学事实。
测试窗参与标准化,会系统性压低测试窗内极端值的异常分数。
数据准备好后,他在下方写了两个对照函数。
第一个函数叫leaked_scaler,完全照搬baseline第六十七行的逻辑。
把训练窗和测试窗合并,计算全局均值和全局标准差,然后做标准化。
第二个函数叫causal_scaler,严格遵守时间因果律。
只用训练窗的均值和标准差,去标准化测试窗。
然后,他让两个函数分别对同一份合成数据进行处理,把标准化之后的异常分数打印出来。
最后再加一行matplotlib画图代码,把两组结果叠在同一张图上。
代码总长不到四十行。
江临点击运行。
不到一秒钟,屏幕上跳出了那张对照图。
跟之前用真实数据跑出来的结果几乎一模一样。
leaked_scaler处理后的异常分数曲线,比causal_scaler矮了将近一截。
那些本该刺破天际的尖峰,被未来信息悄悄地按了下去。
干净,纯粹,无可辩驳。
江临把这张对照图截下来,存进文件夹。
接着,他做了一件更狠的事情。
给这个最小复现实验,写了一份像一份实验室设备校准记录的REAdmE说明文档。
文档第一节,是脚本的目的陈述。
“本脚本旨在使用纯合成数据,复现真实数据集中观测到的预处理阶段未来信息泄漏现象。
本脚本完全不依赖主办方提供的任何原始数据,所使用的所有随机数均由锁定种子42生成,理论上可在任意支持numpy1.
24以上版本的python环境中得到完全一致的输出。
“
文档第二节,是逐行代码注释。
文档第三节,是预期输出的精确数值。
江临把两组异常分数序列、每一个时间点的具体数值,都以表格形式打印在了REAdmE里。
任何人只要运行一次脚本,就能用diff命令逐字节比对自己的输出和他的输出是否一致。
本章未完,请翻下一页继续阅读.........