第180章 证据保留压缩定理(8/17)
两种截然不同的物理状态。
在现实中对应着两种生与死、毁灭与保全的严重后果。
但在经历过那条被认为是进步的压缩箭头之后,那个自作聪明的AI模型,在它那可怜的八维视野里,已经完全看不出这两者之间有任何区别了。
“整个学术界过去这十几年,一直在拼命计算,计算一次压缩过程在数学上究竟留下了多少香农信息熵。”
江临的声音在会议室里回荡。
“但我们从来没有静下心来算过一笔更重要的账——这一次压缩,在现实任务的执行层面,究竟制造了多少次荒谬的错误等价。”
盯着白板的周志华听到这里,原本靠在椅背上的身体一下子坐直了。
江临手中的笔在白板上飞速游走,开始用严谨的数学语言来描述这个残酷的现实。
【设φ(x)为降维压缩映射】
【对于样本x?
和x?
,存在φ(x?
)=φ(x?
)】
【A*(x)为任务允许的安全动作集合,L?
(x,u)为执行动作u的任务损失】
【若压缩后模型只能给出同一动作u,且L?
(x?
,u)>e或L?
(x?
,u)>e】
“这里的φ代表压缩网络,A*代表当前状态允许采取的安全动作集合。”江临说,“现实任务往往不只有唯一正确动作。
机器人面对障碍物,可以停机、后退或者请求人工接管,只要都在安全边界内,就不应该被强行判成不同。”
他用笔尖点了点最后一行。
“真正的问题是,两个输入被压成同一个内部表示以后,模型只能作出同一个选择,而这个选择必然让其中至少一个状态的任务损失超过安全阈值。”
“也就是说,不是动作字面上不相同,就算任务坍缩。”周志华站起身,走到白板旁边,“而是两个状态的安全动作集合已经不再兼容。”
“对。”
“这能处理同标签、异代价,也能处理一个状态允许多种安全动作的情况。”
周志华拿起另一支马克笔,在公式旁边补上一行。
【d?
(A*(x?
),A*(x?
))>e】
“这个任务距离不能只比较动作数值。”他说,“它要衡量两个安全动作集合之间,是否存在足以改变现实后果的分离。
方向盘差零点一度和差一百八十度,不能都按同一种错误计算。”
江临点头。
“离散分类可以使用零一代价。
机械控制可以使用碰撞动量、停机损失或安全裕度。
医学诊断则可以使用错误治疗带来的风险变化。”
“形式核验里,就是接受错误命题与拒绝错误命题之间的代价。”
两支笔在白板上交替移动。
原本那个无从下手的问题——【哪些信息不能丢】——很快被划掉。
新的问题出现在白板中央。
本章未完,请翻下一页继续阅读.........