当前位置:91小说网>都市小说>这个学霸疑似巨额知识来源不明> 第180章 证据保留压缩定理(7/17)
阅读设置(推荐配合 快捷键[F11] 进入全屏沉浸式阅读)

设置X

第180章 证据保留压缩定理(7/17)

周志华没有停下,继续用手术刀般的逻辑往下剖析。

“你看,你之所以陷入这个困境,是因为你把形式化证明里那一套证明义务必须完整无缺的逻辑,强行套用到了这里。”

“对,我是这么想的。”

“可是机器学习的世界里,根本就不存在所谓的完整证明义务。

它生来就是建立在有限的抽样样本、统计学的概率分布,以及对现实世界不可避免的近似误差之上的。

它是一门关于妥协的艺术。”

“是妥协。”

“如果你非要在这个充满妥协的体系里,去寻找一个永远绝对不会丢失任何反例的完美压缩方法,那你忙碌到最后,得到的只会是那一堆庞大臃肿,毫无处理价值的原始数据,你的研究会变成原地踏步。”

“对。”江临依然只是简短地回应。

“既然你什么都清楚,那这个方向,你觉得还有必要继续往下做吗?”周志华盯着江临的眼睛,等待着他的答案。

江临看着幕布上那三十二个字段名。

在这场会议开始之前,在从废土返回现实的无数个日夜里,他其实已经准备过好几种看似可行的学术路线。

比如利用香农的信息论,去计算每个字段与输出结果之间的互信息。

比如利用微积分里的偏导数,去评估每个特征在网络中的敏感度。

比如引入朱迪亚·珀尔的因果依赖图模型。

或者干脆简单粗暴地统计历史数据库中,历史反例出现的频率。

这些方法在数学上都非常成熟。

都能很轻易地把这三十二个字段,像排队一样排成一列。

从在数学上最重要的字段,一直排到最不重要的垃圾字段。

然后,工程师只需要在中间随便选一个可以接受的阈值划一条线。

线上面那些被认为重要的,留下。

线下面那些被认为无用的,毫不留情地删掉。

只要这么做了,几个月后,某篇顶会论文里就会出现一条漂亮平滑的帕累托最优曲线。

论文会自豪地宣称,我们的模型体积缩小了百分之八十。

而我们在测试集上的准确率,基本保持不变。

直到某一天,当灾难真正降临,某个当年被排在阈值下面,被认为毫无用处的边缘字段,在一次伤亡惨重的真实工业事故里,突然以暴烈的姿态站起来,用设备的残骸和鲜血告诉所有人,其实我非常有价值。

江临深吸一口气,将那些漂亮的学术曲线从脑海中驱逐出去。

问题的症结,根本就不在于那种重要性排序的算法做得够不够精妙。

而在于,面对一个容错率为零的系统,一开始就不该提出哪些信息重要、哪些不重要这种充满傲慢的蠢问题。

江临悠悠站起身,问道:“周教授,有笔吗?”

周志华深深地看了他一眼,从桌角拿起一支蓝色的马克笔,递过去。

江临接过笔,大步走到白板前,在白板的正中央,写下两行字。

【样本A:物理状态为轴承磨损】

【样本b:物理状态为过滤器堵塞+传感器校准偏移】

然后,他在两行字的中间,画了一条粗壮的箭头,指向右侧。

在箭头的上方,是【压缩】这两个字。

在箭头的右侧末端,他画了一个方框,里面写着——【同一个八维低秩表示】。

“周老师,压缩算法本身不可避免地会删除信息,这是一种物理规律,不是问题。”江临转过身,看着长桌旁的众人说。

周志华看着白板,若有所思。

“真正致命的问题在于,这种基于统计学特征的盲目压缩,它把两个在现实世界中必须采取截然不同应对动作的高危状态,如同揉面团一样,粗暴地压成了同一个无法分辨的状态。”

江临转回身,在白板的最右侧,对应着样本A和样本b,分别写下。

【维修动作A:降速运行,计划内更换轴承】

【维修动作b:紧急停机,清理过滤器+重新标定传感器】
本章未完,请翻下一页继续阅读.........