“网暴”超三成是“谩骂及人身攻击” 抖音上线“评论发文警示”等功能

数据显示，抖音每天产生8亿条评论，其中，被投诉、举报并最终处理的不当评论中，“谩骂，人身攻击”占比32.79%。
21世纪经济报道记者白杨 北京报道
近日，针对频发的网络暴力现象，抖音进一步升级了平台预防网暴的能力。其中，针对不当评论，抖音将上线“发文警示”功能，进行拦截；针对不当私信，抖音将上线“风险提醒”和“负向内容过滤”等功能。
此前，抖音于春节前针对人肉搜索、曝光隐私、欺辱谩骂等不良内容，专门成立了网络暴力专项治理团队，重点整治借社会热点事件等挑动网民对立，进行人肉搜索、辱骂攻击等网络暴力行为。
当时，抖音从施害者治理以及受害者保护两个角度推出多项举措。其中在施害者治理方面，抖音主要是通过升级治理模型，加强巡查力度，集中整治通过评论区或私信进行网络暴力的行为。
数据显示，抖音每天产生8亿条评论，其中，被投诉、举报并最终处理的不当评论中，“谩骂，人身攻击”占比32.79%。
海量的评论内容，如果只在事后处理，那无疑将让平台面临巨大的治理压力，更重要的是，网络暴力行为已经发生。
而抖音此次将推出的“发文警示”功能，则是将预防能力进行了前置。具体而言，基于该功能，若系统模型判定用户已经发送的评论存在问题，则会推送弹窗提醒，建议发送者重新编辑，去除不当言论。
如果收到弹窗提醒的用户坚持发送，则该条评论不会在评论区出现。据悉，该功能在近期的小范围测试中，已经日均减少约3万条不当评论。
除此之外，在评论端，抖音还先后上线了“评论权限分层管理”、“关键词屏蔽”、“评论精选”三项功能。其中，用户在使用“评论权限分层”时，可以通过“权限设置-高级设置-谁可以评论”设置评论权限，根据自身需求从“所有人”、“仅粉丝”、“仅互关朋友”、“仅自己”四个选项中，自主选取谁可以对自己发布的内容进行评论。
针对私信内容，抖音则新增“用户风险提醒”和“负向内容过滤”两个功能。在“用户风险提醒”功能下，当系统模型识别发现，用户刚接收的陌生人私信存在风险时，会对用户推送弹窗，提示其“是否认识该用户”。如果用户选择“不认识”，系统会再次弹窗，提示用户可进行“拉黑、举报、移除粉丝”等操作。
在“负向内容过滤”功能下，当模型判定用户收到的私信消息为“谩骂或骚扰”，该消息会被直接放入“陌生人盒子—垃圾信息”中。抖音的数据显示，该功能已日均为7万用户服务，减少他们接收的负向信息。
（作者：白杨 编辑：张伟贤）

---