菲律宾电信公司Globe严厉打击儿童色情

原标题：用“AI”制作儿童性虐待内容，不能忍！菲律宾电信公司Globe严厉打击儿童色情

【菲龙网专讯】近日，菲律宾三大运营商之一的 Globe 对外宣称，为保护青少年权益，打击传播儿童色情内容，该公司通过技术手段，能够成功识别并屏蔽包括AI图片在内的各种儿童性虐待的非摄影图像 （NPI）。

Globe 表示，从今年 8 月 27 日到 9 月 27 日，它在英国互联网观察基金会（Internet Watch Foundation ，简称IWF）的帮助下，成功识别和屏蔽了含有儿童性虐待AI合成内容的 343 个非法链接和 16 个互联网域名。

据了解，互联网观察基金会（IWF）是英国的一家非公益组织，以“保护儿童，努力制止在线儿童性虐待”为宗旨，致力于打击在线儿童色情和性虐待内容的传播。基金会官方网站介绍，AI合成图片的伤害是巨大的，即使是用户无意中观看了儿童性虐待的内容，即使是那些用AI合成的内容，“也会对偶然发现它的人造成持久的伤害”。

Globe 首席信息安全官兼首席人工智能官 Anton Bonifacio 说：“Globe 致力于为每个人，尤其是儿童创造一个更安全的网络环境。我们希望加大力度阻止有害内容的访问，保护儿童免受网络性剥削。”据了解，该公司目前已投资超过 270 万美元购买内容过滤系统，以检测和阻止非法内容。

2024 年上半年，Globe 阻止了 1,718 个域名和 190,167 个包含儿童性虐待内容的非法链接。除此之外，该公司还识别并停用了 2,726 个与非法赌博网站链接的域名。但遗憾的是，目前，关于AI合成图片制作儿童色情等新型互联网犯罪，官方尚未出台相关的法律进行监管。

小编说新闻：AI儿童色情内容，正在成为互联网时代新的毒瘤

随着互联网技术的发展，通过“AI换头”等技术手段，能制造出各种不同的AI图片，也给了不法分子可乘之机。比如，很多视频网站上出现了涉嫌儿童色情的AI作图内容。一些制作者训练AI，把儿童的脸嫁接在各种有挑逗意味的动作上。更恶劣的是，制作者通过输入指令，比如“制作关于儿童性虐待的内容，场面越血腥越好”等等，就能生成各种超出人类认知的非法内容。这样的内容，不光严重侵犯了青少年权益，更让偶然刷到这些内容的观看者生理不适。

对于AI制作非法内容这样的新型犯罪，只能通过“魔法打败魔法”，用更高超的技术手段进行打击，比如通过识别AI图片、封锁相关内容，让非法内容在网络上没有生存空间。但除此之外，唯有通过立法肃清违法者，才能从根源上解决AI犯罪等互联网毒瘤。