TikTok被充斥着由谷歌Veo 3生成的种族主义AI视频

谷歌和TikTok对此类内容都有规定，但似乎并不奏效。

Ryan Whitwam – 2025年7月2日 5:18 pm | 90

图片来源：Getty Images | Chesnot

图片来源：Getty Images | Chesnot

谷歌Veo 3视频生成器于5月发布，标志着AI视频质量的令人不安的飞跃。AI视频质量的惊人飞跃。虽然我们看到的许多病毒式AI视频只是无害的乐趣，但该模型像素级完美的输出也可能被用于不良目的。在TikTok上，该平台可能在接下来的几个月内被禁用，用户已注意到大量种族主义AI视频，这些视频由谷歌Veo 3生成。

据MediaMatters报道，近期许多TikTok账号开始发布使用种族主义和反犹太刻板印象的AI生成视频。大多数AI仇恨内容针对黑人，将他们描绘为“惯犯”、缺席父母和喜欢西瓜的猴子。内容还针对移民和犹太人。这些视频时长最多8秒，带有“Veo”水印，确认它们来自谷歌领先的AI模型。

以下汇总视频包含自Veo 3发布以来TikTok上的示例，但请注意，它包含种族主义和反犹太内容。其中一些视频令人震惊，这可能是故意为之——没有什么比愤怒和戏剧更能推动社交媒体的参与度。MediaMatters报道称，原始帖子中有很多评论重复了视频中使用的刻板印象。

由Veo 3生成的仇恨AI视频在TikTok上蔓延。

谷歌在宣布新AI模型时强调安全——我们所有人都见过AI拒绝完成违反其安全防线的任务。当你有真正无害的意图，但系统误判并阻止输出时，这并不令人愉快。谷歌此前大多取得了正确的平衡，但看起来Veo 3更加合规。我们测试了几个简单的提示，发现很容易重现这些视频的元素。

明确但未执行的政策

TikTok的服务条款禁止此类内容。“我们不允许任何仇恨言论、仇恨行为或推广仇恨意识形态的内容。这包括明确或隐含地攻击受保护群体的内容”，社区指南中写道。尽管有这一全面禁止种族刻板印象的禁令，但仇恨的Veo 3视频似乎仍在不受控制地传播。

TikTok表示，它使用技术和人工审核员来识别违规内容。然而，上传量使得及时审核变得困难。虽然这些种族主义视频获得了大量观看次数，但TikTok发言人告诉Ars，MediaMatters报告中提到的账户中超过一半在报告发布前因违反政策被封禁，其余账户现已删除。

至于谷歌，它有一个全面的禁止使用政策，禁止使用其服务来推广仇恨言论、骚扰、欺凌、恐吓和虐待。MediaMatters发现的视频似乎都属于这些类别之一。在一个理想的世界中，Veo 3会拒绝创建这些视频，但提示的模糊性和AI无法理解种族刻板印象的微妙之处（例如某些视频中使用猴子而非人类）使得绕过规则变得容易。

作为全球领先的社交视频巨头，TikTok是这些视频传播的自然场所。但这并非仅限于TikTok。X（原Twitter）因非常有限的审核而臭名昭著，导致仇恨AI内容激增。这个问题可能很快会变得更糟。谷歌计划将Veo 3整合到YouTube Shorts中，这可能使类似内容在YouTube上更容易传播。

TikTok和谷歌对此类内容有明确禁止规定，本应防止这些内容在社交媒体上被数百万次观看。然而，这些政策的执行却存在不足。TikTok似乎无法跟上视频上传的洪流，而谷歌的安全防线似乎不足以阻止此类内容的创建。我们已联系谷歌询问Veo 3的安全功能，但尚未收到回复。

自生成式AI存在以来，人们一直使用它来创建煽动性和种族主义内容。谷歌和其他公司总是谈论防止滥用的安全防线，但它们无法阻止一切。Veo 3的写实性使其特别适合那些想要传播仇恨刻板印象的人。也许世界上所有的安全防线都无法阻止这一点。