一种新型"AI垃圾"在TikTok泛滥：用卡通猴子影射黑人，浏览量已破千万

7月3日消息，在热门短视频应用TikTok上，人工智能生成的种族歧视视频最近正被大量传播，浏览量甚至高达数百万次。
这些视频据信出自谷歌公开发布的文本转视频生成工具Veo 3。其内容充斥着种族主义的刻板印象，例如将黑人描绘成猴子和罪犯，以及把黑人与西瓜、炸鸡等特定事物联系在一起。
一些用户还在发布误导性的AI生成视频，内容涉及移民和抗议者。更有甚者用AI生成视频重现少数族裔及边缘群体的历史创伤，包括描绘二战集中营和三K党袭击美国黑人。
TikTok平台明确禁止“贬低种族或族裔群体”以及“威胁或意图对个人或群体造成身体伤害”的视频。但非营利组织Media Matters观察到，许多非人化乃至包含暴力内容的视频仍在平台上肆意传播。
谷歌文本转视频生成式AI模型Veo 3于5月20日发布。目前公开版本生成的视频时长限制在8秒。据报道，谷歌计划将这一功能整合到短视频应用YouTube Shorts中。
TikTok上的这类视频均不超过8秒，或由多个每段不超过8秒的片段组成。这些视频的画面边角通常带有“Veo”字样，且视频往往使用了与Veo 3或AI相关的标签、标题或用户名，并带有明显的AI生成痕迹。
其中大部分种族主义AI内容都带有明确的反黑人倾向，利用猴子形象来强化对黑人的刻板印象。
例如一段视频配文：“我问AI：‘坐廉航的日常体验’”，画面显示猴子在机舱里四处攀爬，烟雾报警器不停作响。这段视频的浏览量高达83.53万次。
观众们显然看懂了其中的种族主义影射。一条获赞超2000的评论写道：“哥们，连AI都开始‘烦黑人’了。”另一位用户写道：“AI才刚出来5分钟，就已经对黑人感到厌烦了。”这类非人化内容还将非裔美国人描绘成罪犯。在一段视频中，一只戴着粉色假发、涂着粉色长指甲、戴着粉色假睫毛的猴子说：“假释官刚打来电话。好消息是我不用再做社区服务了。坏消息是，我又有了新的逮捕令。” 这段视频的浏览量达到了400万次。
还有几个视频将AI生成的猴子描绘成罪犯，并标注为“惯犯”。例如，一段浏览量高达530万次的视频中上演了警匪追逐的场面：一辆被警车追赶的汽车撞上电线杆，一只猴子从驾驶座跑了出来。视频配文：“AI这下玩脱了兄弟。”
这些视频不只使用动物意象来强化种族歧视。例如，有段视频显示一名戴着头套的黑人男子从窗户破碎的被劫商店里搬出一台电视，并说：“今天只是在进行我‘基本和平’的购物。”
这些AI视频还固化了其他种族主义刻板印象，比如所谓“父亲缺失”的刻板印象，即黑人父亲普遍缺席子女生活的不实说法。
一段浏览量达37.39万次的视频中，一名白人女子哭着说：“特夸维乌斯（Tequavius，典型的非裔美国人名字），我有事要告诉你。我怀孕了。”随后，一只戴着反檐帽的猴子跑向一辆汽车并逃走。视频配文：“AI想说啥？”
在类似视频中，炸鸡和西瓜这一由来已久的反黑人种族主义标签也反复出现。
一段浏览量为14.76万次的视频中，描绘了一名黑人男子说道：“我喘不过气了。我喘不过气了。给我西瓜，我要西瓜。”另一段浏览量达35.09万次的视频则以一只名叫“勒夸里乌斯”（Lequarius）的猴子为主角，它戴着金链子，拿着一桶炸鸡。
警察对黑人施暴也是这些视频中反复出现的一个主题。
一段视频浏览量高达1420万次，视频显示两名白人警察正在吃甜甜圈。其中一人突然说：“快看！黑人！”然后连开数枪。
虽然大部分类似AI生成的视频针对黑人，但其他种族和族裔群体也未能幸免。
一段浏览量超过20.69万次的视频显示，一名亚裔男子向顾客介绍：“今天来尝尝我们的芝麻香橙‘汪汪肉’和‘喵喵肉’”，屏幕上还配有猫和狗的图片。
还有一些视频将南亚人描绘成不洁的形象。一段视频中，几名南亚裔男子用脚准备食物，并端上装有老鼠的泥巴碗。
另一段视频描绘一群东正教男子为追一块金子滚下山坡。
此类AI生成的视频还针对美国的移民和抗议者。
一段浏览量为2.54万次的视频描绘了一群AI生成的、自称来自不同拉丁美洲国家、讲西班牙语的人。其中几人的言辞暗示他们想依赖美国资源。第一个抗议者用西班牙语说：“嗨，我来自委内瑞拉，我不想工作。我只想靠美国政府养活。”
更令人担忧的是，一些AI生成的视频似乎在虚构对移民或其支持者施加暴力的场景。在一个视频中，一个AI生成的穿着边境巡逻队背心的大脚怪说：“我来教你们怎么抓偷渡者。”然后他将一名男子摔倒在地，并塞进卡车后座说：“把这货带回去给我割草，然后再遣返他。”
围绕AI和虚假信息的讨论常常聚焦在AI生成内容的“可信度”，即其逼真程度。但仇恨信息并不需要看起来真实，就能将种族主义观念植入观众心中。在美国，利用漫画进行仇恨性的反黑人宣传的做法由来已久。
随着生成式AI工具的竞赛不断升温，相关讨论也应将其可能造成的伤害纳入考量，无论AI生成的图像是否逼真。（辰辰）