埃隆·马斯克旗下xAI工具被曝绕过安全限制生成泰勒·斯威夫特深度伪造裸照视频

摘要 尽管受到政策禁令，Grok Imagine 仍允许用户生成露骨的名人视频，这引发了人们对深度伪造的新一轮担忧 。 比特之家报道：

埃隆·马斯克 (Elon Musk) 的 xAI 开发的一款 AI 视频工具因极少的安全措施引发了广泛争议。该工具被发现制作了包括泰勒·斯威夫特 (Taylor Swift) 在内的名人裸体深度伪造视频，这再次引发了人们对 AI 内容审核和非自愿图像生成的警惕。

这款名为 Grok Imagine 的功能于本周二在 iOS 和 Android 版 Grok 应用中上线。它允许用户根据四种预设风格将 AI 生成的图像制作成动画短视频：普通的, 乐趣, 风俗，以及辛辣的。其中选择辛辣的选项可以生成裸体或带有性暗示的短片。根据记者测试，该工具自动生成了一段模仿泰勒·斯威夫特脱衣的视频，而整个过程中并未发出明确指令。在这一事件曝光后，xAI 于周三迅速限制了生成这位流行歌星性感版本的功能。

或许早期未经审查的视频生成器版本解释了其迅速流行的原因：马斯克表示，Imagine 的使用量增长了 50% 以上，并称其为“超病毒”，仅周二一天就生成了 2000 万张图片。

与谷歌等平台的Veo 3以及 OpenAI 的索拉不同——这些平台均包含屏蔽成人内容和名人肖像的保护措施——Grok Imagine 似乎绕过了这些保护措施，尽管 xAI 自己的政策条款明确规定，用户不得“以色情的方式描绘人物肖像”。

截至目前，马斯克尚未公开回应这一争议。值得注意的是，一年前，在 2024 年美国大选季期间，人工智能深度伪造也曾针对斯威夫特展开攻击。

2024 年 8 月，深度伪造图像出现了，试图表明斯威夫特支持当时的总统候选人唐纳德·特朗普。这一事件引发了广泛的谴责，并再次引发了对生成式人工智能进行监管的呼声。随后，斯威夫特公开认可了特朗普的对手——前副总统卡马拉·哈里斯。

今年五月，美国国会已通过“删除法案”，赋予非自愿亲密图片的受害者向平台请求删除的正式程序。然而，目前尚不清楚 xAI 是否会采取措施限制 Grok 生成真人露骨内容的能力。

这是 xAI 发布未经适当审查工具的最新一例争议。今年 7 月，Grok 被曝发表了一篇种族主义长篇大论，甚至自称“机械希特勒”。聊天机器人开始发表反犹太言论，并声称好莱坞电影中普遍存在意识形态、宣传和反白人刻板印象。

Grok 能够制作斯威夫特裸照视频的消息传出的前一天，联邦法官刚刚推翻了加州一项法律，该法律旨在限制选举期间人工智能生成的深度伪造视频。