添加新评论

别检测AI了,给内容上户口

别检测AI了,给内容上户口

这次尼康的事,最让我意外的不是"AI得了奖",而是尼康自己都没想明白该怎么判。

9月中旬,尼康 Small World in Motion 显微视频大赛公布结果,一等奖给了新加坡国立大学光学工程师徐宁提交的一段视频,号称拍的是原发性纤毛运动障碍(PCD)患儿呼吸道里纤毛的摆动。画面很漂亮。

可没几天,就有科学家在领英上指出,视频里一些画面结构失真、运动不自然,像是被算法"脑补"出来的。徐宁后来承认,他用了一种无监督神经网络,对超分辨率重建出的灰度图像做后处理,"区分并可视化特征"。他的原话很耐人寻味:我们从没声称,渲染出来的那些特征就是真实存在的解剖结构。

10月9日,尼康撤销了一等奖,视频从官网下架,第一名递补给了原本第二的越南选手阮南日。奖金3000美元,Nature都专门发了新闻。

尼康自己的反复横跳

这里面最值得琢磨的细节,是尼康的判断翻了一次烧饼。

争议刚爆发时,尼康的表态是:依据当时收到的材料,AI只用于显微成像的源数据增强,并非从零生成图像,初步判定符合赛事规则。等质疑声浪越来越大,它才重新复核,最终推翻了自己的结论。

这说明什么?说明连主办方自己,一开始都分不清"增强"和"造假"的边界在哪。

科研图像处理本来就有大量灰色地带。去噪、对比度增强、超分辨率重建,这些操作在业内用了多少年,谁也没觉得有问题。可神经网络一旦多叠几层,味道就变了。"让画面更清晰",悄悄变成了"让画面凭空长出东西"。徐宁那套说辞的要害就在这:他说自己只是把特征"可视化",没有生成运动和结构。但当算法参与了重建和识别,最终画面到底还有多少是原始观测?谁也说不清。

这不是某个研究员的问题,是所有内容生产者在AI时代都要面对的共同困境:你自己可能都不知道,哪一步就越了线。

检测是场必输的仗

那这段视频是怎么被揪出来的?靠科学家用肉眼看出异常。结构失真、运动不自然,那些看纤毛看了一辈子的人,一眼就觉得不对劲。

这很了不起,但也很不划算。

这次是显微视频,正好有一批全球最懂这行的顶级专家,愿意在领英上花时间逐帧较真。可下一次呢?下一张财报配图、下一段新闻画面、下一张产品渲染图呢?等AI生成的内容流到普通人眼前,绝大多数人根本没有能力去分辨哪部分是"记录"、哪部分是"渲染"。检测的成本只会越来越高,造假的成本只会越来越低,这个剪刀差会越拉越大。

我越想越觉得,"AI检测"这条路,就是一场注定输的军备竞赛。你升级一次鉴别器,对方就重新训练一次生成器,猫和老鼠的游戏永远玩不完,偏偏老鼠繁殖得比猫快。

金融风控早就想明白了这件事

说到这我想起前几年在金融行业踩过的一个坑。

我们做前端配置平台那会儿,合规反复追问一个问题:你怎么证明线上某个配置,不是被人偷偷改过的?我们第一反应跟所有人一样,加"变更检测"。定期扫描比对,抓到未经授权的改动就报警。

结果是越检测越漏。配置项太多,改动入口太多,检测规则永远追不上新的改法,隔三差五就冒出一个"检测不到的角落"。后来我们换了个特别笨的办法:每一次配置写入,都强制附带一条带签名的操作记录,谁改的、什么时候改的、依据哪个审批、改之前是什么值、改之后是什么值,全链路可回溯。

效果立竿见影。审计不再问"你怎么抓偷改的人",而是直接看"每条改动能不能拿出自己的出生证明"。拿得出的,就信;拿不出的,哪怕看起来再干净,也一律不认。

这恰好就是影像赛事困境的解法。业界其实已经有对应的东西——C2PA 的内容凭证(Content Credentials),相当于给内容办一张防篡改的"户口":用什么设备拍的、经过谁的手、哪一步动用了AI,全链路签名记录。Adobe、BBC、微软都在推这套标准。与其事后费尽心思去猜"它是不是真的",不如让内容自己带着"它从哪来"。

对你带团队,也是同一个道理

回到我们日常,我觉得这套逻辑是能直接迁移的。

现在每个带团队的人都面对一个隐性问题:下属交上来一段代码、一份方案、一张设计图,你怎么知道有多少是AI生成的、有多少是他自己想出来的?很多人的第一反应是去"检测":找AI痕迹、装检测工具、开会盘问。

但尼康的事已经告诉我们结局了:检测永远滞后于生成,顺带还会破坏信任。你越盘问,对方越会把痕迹藏得更深。

更聪明的做法,也许是别去纠结"有没有用AI",而是要求"用在哪、说清楚"。AI辅助了?可以,标出来。哪部分是模型给的,哪部分是你自己验证过的,写明白。你评价的不是"纯洁度",而是这个人能不能对自己的产出负责。讲得清楚为什么是这样,敢不敢背书。

徐宁最可惜的地方,我觉得不是用了AI,而是一开始没主动披露哪一步用了神经网络。如果他在提交说明里就写清楚,结局可能完全不同。披露比隐藏更划算,这可能是AI时代里少有的、稳定的策略。

说实话这事我自己也没完全想通。就像这篇文章的封面图,也是AI生成的——那我到底该早点披露,还是写到这里说一句就算披露了?我没有标准答案。但有一点我越来越确定:以后"证明来源"会比"证明优秀"更重要。至于这条线具体该画在哪,可能得每个人自己去趟。

You voted 4. Total votes: 11