返回AI资讯
The Verge AIAI资讯

Google让你可以“深度伪造”自己,但别急着开心

2026/04/09 10:53

先说清楚这到底怎么回事。Google这次在YouTube Shorts里上线的新功能,本质上就是一个AI驱动的“数字分身”工具。创作者只需上传一段自己的视频,AI就能学习你的脸、你的声音、你的表情动作,然后生成一个可以随便插入任何Shorts视频里的虚拟形象。听起来很酷对吧?但细思极恐。

这个功能的出现,某种程度上宣告了“真实性”的破产。以前我们说视频是“眼见为实”,以后怕是要改成“眼见的可能是假的”。Google自己不知道这有问题吗?不可能。恰恰因为太清楚了,才显得讽刺——他们一边在努力打击AI生成的垃圾内容、深度伪造诈骗和冒名顶替,一边又亲手给每个普通用户递上了深度伪造的武器。这不是矛盾,这是现实。

对行业的影响是立竿见影的。首先,短视频创作的门坎确实降低了——不需要本人出镜也能产出内容,这对某些社恐创作者是好事。但随之而来的,是内容可信度的全面崩塌。想象一下,以后你在网上看到一个视频里的人说“我用了这个产品,非常推荐”,你根本无法判断那是本人还是AI克隆。这对广告行业、对信息传播、对社交信任都是核弹级别的冲击。

往远了看,这只是个开始。当技术门槛足够低,低到每个普通人都能轻松“克隆”自己,那接下来会发生什么?必然会有人用这技术作恶——诈骗、诽谤、伪造证据,深度伪造从“名人特权”变成“人人可得”。监管层面再想补救,难度呈指数级上升。法律会跟进,但技术跑得永远比法律快。

作为普通用户,我觉得最实在的建议就三点:第一,别盲目尝鲜,你的脸和声音是最重要的生物特征,一旦被AI学习了去,将来可能带来意想不到的麻烦;第二,对网上看到的一切视频保持基本的怀疑精神,特别是那些“完美”到不真实的;第三,如果你是创作者,思考一下用AI克隆自己是节省时间,还是在消耗自己的真实性价值——粉丝追随的是你本人,不是你的数字替身。

技术永远在向前走,但走在前面的人,得时刻记得自己为什么出发。

来源 The Verge AI

阅读原文