深度伪造的离奇速成史：从实验室小把戏到2500万美元的惊天劫案

香港一名财务职员坐下来，跟老板开了个视频会议。首席财务官就在屏幕上，旁边还有几位他认得脸的同事。大家寒暄了几句。他们让他转一笔钱出去。他照做了——十五笔电汇，2500万美元，全在一天之内打了出去。

那场会议上的每一个人，都是假的。

没有一个是真人。那些脸。那些声音。那些微微点头、那些停顿。全是一台电脑吐出来的东西。他直到几天后才闻出不对劲——他打电话回总部，才知道那场会议从头到尾根本没开过 (CNN, 2024)。

所以我们是怎么走到这一步的？一台机器，是怎么学会戴上一张人脸的？这个故事比你想的要短。也比你想的要离奇得多。

一切从一张嘴开始

“深度伪造”这个词听起来像是个新玩意。可它背后的把戏，一点都不新。

把时间倒回到 1997 年。三名研究人员做出了一个叫 Video Rewrite 的程序。喂给它一段某人说话的旧录像，它就能把那张嘴剪开、再重新缝上——直到屏幕上的人看起来在说一些他从没说过的话。活生生地，张口就来。当初的目的很无害：把电影配成别的语言。它笨拙得很。但它是第一台把这种“人脸提线木偶”全自动化的机器 (History of Information)。

接下来，好多年里，几乎什么都没发生。这项技术爬得很慢。

然后，它突然开始狂奔。

两台机器，斗成一团

2014 年 6 月。 一位名叫 Ian Goodfellow 的研究者和他的同事们，亮出了一个叫生成对抗网络的东西——也就是 GAN (维基百科)。这里慢一点说，因为它就是后面所有事情的发动机。

想象两个电脑程序，扭在一起决斗。一个是造假者，专门画假脸。另一个是侦探，唯一的任务就是揪出哪张是假的。每揪出一张，造假者就琢磨自己哪里露了馅，学一手，再画一张更逼真的。然后两个再斗一轮。再一轮。成千上万轮 (MIT Sloan)。

造假者会练到吓人的地步——因为那个侦探从不停手地追着它咬。等从这台机器的另一头出来时，是一张你赌咒发誓也认作真人的脸。

这个名字，是从最黑的地方爬出来的

“deepfake”这个词本身，是 2017 年 11 月才冒头的。而且它是从互联网最不堪入目的那个角落里爬出来的。

一名 Reddit 用户——账号就叫“deepfakes”——开始把名人的脸贴进色情片里。“深度学习”（deep learning）加上“假的”（fake）。这名字就这么传开了。一整个社区围着它膨胀起来，成员逼近 9 万人，直到 Reddit 在 2018 年 2 月把插头拔了 (Reality Defender; The Verge)。

封禁什么都没改变。工具早就散到野外去了。

从地下室，到银行金库

从这里开始，它不再是个让人发毛的业余爱好，而是开始真金白银地烧钱了。

2019 年。 犯罪分子克隆了一家公司高管的声音——那一丝淡淡的德国口音、他说话的节奏、每一个小习惯，全有。然后他们打电话给一家英国能源公司的员工。那位员工确信自己在跟老板通话。不到一小时，22 万欧元（约合 24.3 万美元）就没了 (Trend Micro)。

五年后：就是你在开头读到的那起 2500 万美元的香港视频劫案。

看出规律了吗？每往前走一步，假货就更便宜。更快。更难抓。那条线，到现在还在往上爬。

我们还分得清真假吗？

这才是没人破得了的那个问题：我们能不能可靠地分辨真假——以后还有没有可能分得清？

你大概觉得答案很简单。造个识假机器不就行了。我们造了。它顶不住。

还记得那场决斗吗——造假者对侦探？问题的根子就在这。GAN 这东西生下来就是为了打败侦探的。你教会一台机器去抓深度伪造，等于直接给造假的人递了一张清单，告诉他们下一步该补哪些漏洞。猫捉老鼠，只不过这只老鼠越捉越聪明 (Optica)。

而且这股洪水还在涨。到 2024 年底，大型全国性银行每天被攻击的次数已经超过五次——而同一年年初，每天还不到两次 (SecurityWeek)。2024 年那些追着这个难题跑的研究人员，也承认了最扎心的一点：只要碰上一种全新的、它从没见过的假货，检测系统当场就垮 (arXiv, 2024)。

所以，老实说？我们没有一套可靠的、能扛得住未来的办法去揪出深度伪造。眼下这一局，赢的是造假者。

那这一切会走向哪？

关于接下来会怎样，有三个大胆的猜测。而且它们真的只是猜测——这些是解读和预测，不是板上钉钉的事实。

也许侦探会追上来。 有些专家押注更聪明的 AI 检测器，再加上“水印”——在真实视频拍摄的那一瞬间，就给它打上一个看不见的标记。这或许能把局面扳回来。但前提是地球上每一家相机厂商都得同意用同一套系统。这事远没那么靠谱。

也许我们干脆不再问“它是不是假的”。 另一些人觉得，我们会把问题整个反过来问：不是“这段视频是不是假的？”，而是“这段视频能不能证明自己是从哪来的？”——就像药瓶上那道防拆封口。技术是有的。可离铺到处处都是，还差得远。

又或者，真正的危险根本不在机器——在我们自己身上。 这一条最戳心。正如一群研究者所说的，威胁“不来自用于制造它的技术，而来自人们天生就倾向于相信自己眼睛所见” (UNESCO)。而且还有一个恶心的反面，叫“骗子的红利”：一旦人人都知道假货存在，那任何被真实镜头拍下来的人，都能耸耸肩说一句“那是深度伪造”。这是一种论调，不是经过衡量的事实。但它就是甩不掉。

好，现在说说那些离谱的。你会刷到一些帖子，信誓旦旦地说什么著名事件、登月、世界各国领导人统统都是偷偷搞出来的深度伪造——或者说某个见不得光的组织，多年来一直在把真人偷偷换掉。这些说法没有任何可信证据。 把它们归进互联网民间传说那一类吧：查无实据，而且几乎可以肯定是假的。

资料来源与延伸阅读

• CNN — 财务职员与深伪CFO视频通话后转出2500万美元（2024）
• History of Information — Video Rewrite，深度伪造的源头（1997）
• 维基百科 — 生成对抗网络
• MIT Sloan — 深度伪造，讲清楚
• Reality Defender — 深度伪造简史
• The Verge — Reddit封禁深伪换脸色情社区（2018）
• Trend Micro — 罕见CEO诈骗：深伪音频骗走24.3万美元（2019）
• SecurityWeek — AI军备竞赛：深度伪造的生成与检测
• Optica — 生成与检测深度伪造：一场21世纪的军备竞赛（2025）
• arXiv — 稳健的深度伪造检测不只需要视觉取证（2024）
• UNESCO — 深度伪造与“认知”的危机

深度伪造，最初不过是两台机器之间的一场决斗——一台在撒谎，一台拼命想抓住这个谎。可正是同一个把戏，两个 AI 锁在一场较量里，如今正在教会电脑一件比“伪造一张脸”离奇得多的事。有些研究者认为，它正在教电脑学会想要什么东西。当一个 AI 不再模仿我们——而是开始替自己拿主意，那会发生什么？