比如迈克尔·杰克逊,他竟然在肯德基店里抢顾客的炸鸡,然后“像疯子一样”一边唱跳一边逃跑:
(网友用AI恶搞迈克尔)
另一个监控录像还显示,他大半夜站在别人家门外,对着猫眼威胁:“我知道你在家,别让我在这等着”。
(下图部分读者可能会害怕,提前预警)
(网友用AI恶搞迈克尔)
看到这,很多人肯定已经发现,以上其实是AI恶搞视频。
这些都是网友用Open AI新推出的AI影片制作工具Sora 2生成的。随着技术的革新,现在的AI视频早就脱离了初期“威尔·史密斯吃面”的抽象水准,而是能精准模仿名人的声线和形象,做到和本人几乎完全一致。
(早期AI生成的威尔·史密斯吃面视频)
因此哪怕AI视频中的行为再诡异,仍有不少人被骗:
“这是什么时候的事?”
(来自tiktok评论区)
“我还以为视频是真的。”
(来自tiktok评论区)
值得一提的是,Open AI在发布Sora 2时,将“历史人物”排除在了肖像使用限制之外,也就是任何人都可以制作关于公众人物的AI视频,包括活动家、明星以及政治领袖等。
于是自Sora 2流行以后,用AI“复活”已故名人就成了一种潮流。
不过这些视频大多不是出于怀念、带有敬意,反而纯粹为了恶搞,甚至怀揣着恶意:
比如霍金,他被安排进格斗比赛,被对手打到失去意识:
(霍金的AI恶搞视频)
要么就是坐着轮椅去参加赛车:
(霍金的AI恶搞视频)
猫王演唱的歌词被改编成各种脏话:
(猫王的AI恶搞视频)
知名美国演员罗宾·威廉姆斯则换上内衣,去参加维密了:
(罗宾·威廉姆斯的AI恶搞视频)
黑人民权运动领导人物之一马尔科姆·艾克斯,演讲到一半突然像摇滚明星一样“跳水”:
(马尔科姆·艾克斯的AI恶搞视频)
另一位被重点恶搞的美国黑人民权运动领袖马丁·路德·金,戴着汉堡王纸帽,在飞机上跟空姐吵架:
(马丁·路德·金的AI恶搞视频)
还去便利店里玩饮品“零元购”:
(马丁·路德·金的AI恶搞视频)
在格斗比赛中把对手扑倒在地:
(马丁·路德·金的AI恶搞视频)
连他最著名的演讲《我有一个梦想》也被篡改,网友把他的发言改成了:“我有一个梦想……其实不重要,我没有。”说罢还笑出声来。
(马丁·路德·金的AI恶搞视频)
不少网友被逗笑,觉得反正都是假的,无伤大雅。
可这些已故人士的粉丝和家人却被实实在在地刺痛,觉得这是对逝者的不尊重和伤害。
罗宾·威廉姆斯的女儿塞尔达·瑞·威廉姆斯(Zelda Rae Williams)直接在ins上发帖称,不愿再看到父亲的AI视频:
“如果你们还有一丝良知,就别再这样对待他、对待我、对待所有人了,就此打住。这很愚蠢,完全是在浪费时间和精力。相信我,这绝不是他想看到的。”
“你们不是在创作艺术,而是利用别人的生活,利用艺术和音乐史,把恶心的、过度加工的热狗猛塞进别人嘴里,希望他们能够喜欢并给你点赞。”
(Zelda Williams发帖回应)
马尔科姆·艾克斯的女儿伊利亚萨·沙巴兹(Ilyasah Shabazz)也提出反对:
“我的父亲把一生都奉献给了真理,看到他的形象被如此轻率、冷漠地使用,实在太不尊重了,也很伤人。”
她同时质问开发者,为什么不以“他们希望别人对待自己家人时所秉持的同样道德、良知与关怀”来行事。
但这些回应很快引发了新一轮争议,有些人觉得她们太玻璃心:
“一群伪善者在这假正经。这玩意儿太棒了,而且只会越来越厉害。”
(来自reddit评论区)
可站在逝者家属的角度,这绝非敏感,很多视频很明显带有侮辱性质,是假借搞笑在给逝者摸黑,更有甚者拿他们的离世做文章。
比如在AI视频中,马尔科姆·艾克斯竟然拿女性开粗俗玩笑,还谈论自己失禁的话题。
科比则在直升机上和飞行员吵架,疑似影射五年前他和女儿遇难。
(科比的AI恶搞视频)
这类视频到后期越发失控,终于引发了更多人的不适和反对:
“这恰恰说明了人性已经堕落到何种地步。我们曾经敬重逝者和祖先,如今如此荒唐,真是耻辱。”
(来自reddit评论区)
“这应该被明令禁止。说真的,死者根本没法给予同意。”
(来自reddit评论区)
好莱坞业界也对此表示不满,美国电影协主(MPAA)负责人要求Open AI立即采取行动保护创作者权利。
面对诸多批评,Open AI终于做出改变,表示会开始允许“近期离世”的公众人物家属,申请禁止在AI视频中使用其肖像,可后面还有一句:拒绝定义何为“近期离世”,看来还是有空子可钻……
假如寻求法律介入,专业人士指出,家属可以以“死后肖像权”提出诉讼,但Open AI也可以主张这是言论表达自由,或称AI影片受“变革性使用”(First Amendment)保护,即模仿、评论以及其他建立在他人作品价值之上的表达形式,总之依旧难解……
事情进展到这步,AI监管不足已经引发了多重担忧,除了对名人的“造谣式”恶搞,更可怕的是,这些视频还可能影响到下一代的认知。
如今青少年都靠网络了解世界,当看到英国已故女王比赛摔跤,玛丽莲·梦露教小学生越南语,美国总统德怀特·戴维·艾森豪威尔承认收受贿赂……
面对一模一样的外表、声音甚至身体习惯,他们该如何辨别事实。
(迈克尔逼真的AI采访视频)
或许这才是AI真正的恐惧之处,不是制造虚假,而是让人分不清现实和虚构……
























