第181章 十五次坍缩(4/9)
孙教授用笔尖点着白板。
“神经网络的模型剪枝,只是目前最容易被人看见的一种表象。
形式化证明证书的压缩、科学观测数据的筛选,以及大型控制系统的状态聚合,天文台为了节省存储而过滤掉所谓背景噪声,乃至化工厂的集散控制系统为了降低算力,把几万个底层传感器状态强行聚合成十几个宏观工况。
这些行为,本质上,都在做相似的事情。”
负责表示学习的资深教授微微皱起眉头,接过了话头。
“孙教授,您说的数学抽象层面确实如此。
但如果我们现在就在论文里把适用范围写得这么无所不包,这第一篇奠基性的论文会完全失控的,审稿人会觉得我们在吹牛。”
“所以我问的只是理论延伸的方向,不是这第一篇论文的最终标题。”
孙教授用笔杆指向会议室前方的幕布。
“今天我们跑的这四十八组隐藏样本,验证的依然只是工业异常分类。
我们刚才推导出的第一条风险界,也被极其克制地限制在确定性压缩、单一固定任务,以及有限覆盖数假设族的前提里。
第一步,这些边界绝不能丢。”
江临坐在位置上,把对面三人刚刚建立的三个不同项目的表格默默看了一遍,随后开口。
“这第一篇联合论文,只写深度学习的模型压缩。”
江临定下了基调。
“至于孙教授提到的其他广义应用场景,只放在论文末尾的讨论部分。
我们只说明这套理论具有向其他领域开放接口的潜力,不越界宣称我们已经覆盖了它们。”
孙教授十分赞同地点头。
周志华重新把目光投向面前电脑上的联合草稿文档。
当前的文档标题,还是刚才讨论一半时随手敲下的临时版本。
【task-preserving pression under bounded Evidence Leakage(有界证据泄漏下的任务保真压缩)】
他盯着这个标题看了几秒钟,按下退格键,将标题中略显功利的task-preserving(任务保真)果断删掉。
换成了一个更具哲学意味,也更严谨的词。
随后,他在下方增加了一行副标题来限定理论范围。
【task distinction, counterexample witness bases and Risk bounds under deterministic pression(确定性压缩下的任务区分、反例见证基与风险界)】
“主标题就用证据保留。”周志华拍了板,“任务保真是我们想要达到的工程结果,证据保留是这篇工作给出的一条可证明、可审查的实现路径。
我们不可能向世界保证,一个被压缩过的模型在所有未知的极端环境里永远能完成原任务。
我们只能在数学上严密地证明,在事先声明的覆盖范围内,那些拥有改变任务动作资格的关键证据,绝对没有被粗暴地压掉。”
江临看着屏幕上更新的标题。
“用证据保留,概念范围更准确,也经得起推敲。”
“那刚刚闭合的那条核心定理叫什么?”周志华问。
“就叫确定性压缩下的任务保真风险界?”江临提议。
“名字太长了,不适合在正文的推导过程中被反复引用,显得冗余。”
周志华在草稿的定理声明处,暂时敲下了一个简短有力的缩写。
【Evidence-preserving pression theorem (Epct)】
【证据保留压缩定理】
“我们在论文的正文里,会用数学语言把它的适用条件完完整整地写清楚。”周志华说,“定理的名字可以尽量简短好记,但它生效的理论边界,一个字都不能少。”
下午五点零三分。
会议室原本紧闭的木门被推开,人工智能学院负责科研统筹工作的副院长迈着快步走了进来。
他显然已经在办公室里,从负责协调的李原那里看过那份简要的测试结果报告,脸色带着掩饰不住的振奋。
进门后,他没有先去研究白板上那些犹如天书般的公式,而是直接走到幕布前,把A、b、c三套压缩模型的公开测试数据和刚刚解密的隐藏结果,仔仔细细地重新看了一遍。
“这三套基准模型,还有那份杀伤力极大的隐藏集,权属方面有没有遗留问题?”副院长最先确认的是资产归属。
“这三套模型都是由我们院内的横向项目组从头独立训练的,代码和权重完全归属南大。”李原立刻汇报道,“训练数据已经完成了脱敏处理和授权范围确认。
至于那份隐藏集,从样本标注、版本哈希冻结,到刚才唯一一次独立调用的全过程,都有带有时间戳的完整审计记录。
毫无破绽。”
本章未完,请翻下一页继续阅读.........