从创新技术工具到公益科普，上海七企业获未成年人网络保护奖

我国未成年网民规模不断扩大，目前未成年网民规模已上升至1.96亿，未成年人互联网普及率增长到97.3%。与此同时，不良内容、网络暴力、游戏沉迷等风险随数字化浪潮席卷而来，数量庞大的未成年网民成为社会长期关注的焦点。
前述背景下，《未成年人网络保护条例》于今年1月1日正式实施。其中，第二十条规定了未成年人用户数量巨大或者对未成年人群体具有显著影响的网络平台服务提供者应该履行的六大义务。为进一步压实属地网络平台主体责任，上海市委网信办会同市信息安全测评认证中心组织编写了《指引》。上海市互联网业联合会（后简称“上网联”）也发起“2024年社会责任和社会公益优秀案例评选活动”评选。
近日，前述评选结果出炉，共产生12个特别贡献奖、37个案例入选优秀案例奖、7个案例入选“中华文化传承与交流”专项奖、7个案例入选“未成年人网络保护”专项奖、19个案例入选媒体社会责任与社会公益奖，以及31个案例入选优秀案例入围奖。
值得一提的是，今年评选增设了两个专项奖。其中，“未成年人网络保护”是国家和上海市委网信办今年大力推进的工作，不少企业建立并完善各具特色的保护体系，哔哩哔哩、小红书、米哈游、得物、三七互娱、波克城市、上海软件中心共7个企业获得该专项奖。上网联对未成年人网络保护非常重视，在上海市委网信办的指导下，上网联社会责任和社会公益委员会会同网信办相关管理部门，对多家企业进行了调研走访，特别就未成年人网络保护工作进行了深入了解。
未成年人保护，平台的作用不容忽视。一方面，企业凭借技术和平台优势，能筑牢安全防线，落实防沉迷、过滤不良内容，为未成年人营造健康网络环境，守护身心健康。另一方面，企业能提供优质内容，助力未成年人获取知识、增强网络辨别能力，树立正确价值观，履行社会责任。
未成年网民面临多重风险：网络暴力、不良内容、游戏沉迷
在网络的隐秘角落里，一场场不见硝烟的“战争”可能正在悄然上演——“挂人”、恶意丑化他人形象、无休止地辱骂、深挖并曝光所谓的“黑料”，这些网络霸凌的手段正悄无声息地冲击着未成年人的生活。
不良内容也在侵蚀着未成年网民。暴力、色情、低俗信息充斥网络，通过短视频、弹窗广告、不良网站潜入他们的视野。
例如，据“网信中国”2024年12月通报的典型案例，有短视频平台部分账号集纳“沙雕动画”，包含大量血腥、惊悚等负面内容。部分账号恶意改编经典动画，发布“暴力海绵宝宝”“惊悚米奇”等内容。部分短视频内容借动画形式，模拟校园欺凌情节，美化自杀自残行为，严重危害未成年人身心健康。网信部门对相关平台予以行政处罚，关闭一批集纳发布“沙雕动画”的违规账号。
通报的案例还提到，有用户在未成年人分享日常生活内容页面的评论区，恶意发布低俗表情包和“找同城”等不良交友信息，企图对未成年人实施性引诱。在一些未成年人集中的频道版块、兴趣圈子等环节，部分用户使用分隔符、替代词等方式，发布传播低俗色情内容等。
此外，随着互联网的普及和游戏产业的迅速发展，未成年人沉迷游戏的问题日益凸显，引发了社会广泛关注。据中国音像与数字出版协会发布的《2024中国游戏产业未成年人保护报告》显示，75.1% 未成年人游戏用户周游戏时长低于3小时，国内未成年人的游戏时长和消费已得到有效控制，但问题仍然存在。
该报告还显示，近年来，网络游戏防沉迷措施取得一定成效，2024年每周游戏时长3小时以上的未成年人占比为24.9%，较2021年下降37.2%。但依然有接近三成未成年人上学期间每日线上娱乐时间超过2小时，其中5小时以上占比达5%，未成年人超长时间网络休闲娱乐情况应当引起重视。
与此同时，我国未成年网民数量相当庞大，根据第 54 次《中国互联网络发展状况统计报告》，截至 2024年6月，中国网民规模近 11 亿人（10.9967 亿人）。在2024年世界互联网大会未成年人保护论坛上发布的《第六次中国未成年人互联网使用情况调查报告》显示，我国未成年网民规模已上升至 1.96 亿。
面临诸多风险，未成年群体的网络保护离不开法律法规的不断完善，同时也需要平台增强责任意识，加强技术层面的支撑。
2020年修订的《中华人民共和国未成年人保护法》增设网络保护专章，为未成年人网络保护提供了坚实的法律基础。2024年1月1日，《未成年人网络保护条例》正式施行。这是我国第一部专门性的未成年人网络保护综合立法，重点就规范网络信息内容、保护个人信息、防治网络沉迷等作出规定。同时，对于网络欺凌防治、规范未成年人网络消费等问题也提出了针对性要求。
在此背景下，上海多家企业平台也采取了相应行动，本次入选“未成年人网络保护”专项奖的多家企业，均致力于保护未成年网民，构建更安全的网络环境。
创新技术手段：智能分析防御网暴，完善防沉迷机制
在网暴防护方面，小红书推出的 “小红盾” 防网暴工具，是平台在未成年人保护领域的一大创新举措。
“小红盾”通过智能化分析，能够主动识别疑似网暴受害者和施暴者。对于潜在受害者，平台定期发送提醒，引导其学习使用 “小红盾” 功能，增强自我保护意识；对于施暴者，则发信提醒其理性发言，共同营造友善的社区氛围。
“‘小红盾’是小红书不断升级完善未成年人保护体系，提升未成年人保护能力，全力以赴做好网络生态‘守门人’的重要抓手。通过技术识别、用户体验、服务反馈等多方面创新，‘小红盾’对施暴者形成了有效震慑、对被施暴者提供了有效保护，为守护未成年人健康成长，构建“真诚分享，友好互动”的社区氛围贡献了一份力量。”小红书副总编辑朱厚真说。
在功能设计上，“小红盾”具备批量举报功能，方便用户快速投诉不友善内容。“一键防护”功能可让用户在7x24小时内屏蔽陌生人的评论、弹幕、@与私信；“评论防火墙”则在3x24小时内将用户笔记下的评论全部递送平台人工审核，避免了机器审核可能出现的一刀切问题。在服务反馈方面，平台设立网暴专人专审队列，确保用户举报在1天内得到处理。2024年，“小红盾” 全面升级，与北师大心理团队合作开通“红薯地援助热线”，为遭受网暴的用户提供24小时心理咨询服务。
小红盾2.0上线后，成效显著。平台共收到来自26350名用户的50924个网暴保护申请，平均受理率超85%。平均每月有21995名用户使用一键防护功能，240名用户使用评论防火墙隔离不友善评论。
同样，在未成年人网络保护方面，米哈游通过全方位落实未成年人防沉迷举措持续努力构建有效的未成年人保护体系。
“一直以来，米哈游持续践行‘数实共善’的社会价值理念，致力于发挥游戏的正向连接作用，让游戏的多元、正向价值照进现实。”据悉，米哈游旗下所有游戏产品均严格执行实名验证、充值管理、时长限制以及适龄提示等相关规定，同时不断完善未成年人防沉迷机制，通过企业与家长联合护航，保障未成年人健康游戏。在信息收集、使用、共享等每一个环节，米哈游均明确了未成年人个人信息处理的规范要求，采用权限管理措施，确保未成年人个人信息得到妥善、安全的保护。
米哈游旗下社区“米游社”积极承担起保护和引导青少年的社会责任，于2021年11月上线“青少年模式”功能，并制定相关社区内容管理规定及违禁用户公开机制，定期公示社区治理月报，对反复违规的用户从严处置并第一时间核查和处理违规内容。
增强内容引导：建立防护体系，过滤不良信息
作为Z世代年轻人喜爱的视频社区，B站（哔哩哔哩）上线了严谨的监护人授权流程，对未成年用户开启青少年模式，需监护人提供身份信息、完成人脸验证以及亲子关系答题验证，退出模式同样如此。
在内容层面，B站组建专业团队每日筛选优质内容，联合UP主围绕安全、知识、美育等主题创作适合青少年的精品。自青少年模式上线后，不断丰富产品功能和内容池，并且建立了强大的内容防护体系，积极拦截不良内容。此外，B站还通过举办“护苗行动”等活动，提升社区治理认知和未成年人保护意识等，自未成年人专项开展以来，B站已累计拦截处置涉未成年不良内容33万余条，处罚相关账号4万余个，并为未成年UP主提供严格的私信保护。
无独有偶，得物作为潮流文化社区，也将未成年人网络保护视为重要责任。得物建立了未成年人保护工作机制，通过内容管控、产品设计、规则制定、技术开发等多方面举措，全方位守护平台未成年人的身心健康，成为上海首批发布《未成年人保护社会责任报告》的互联网企业之一。
得物推出的未成年人模式，具备时间限制、监护人密码设置等功能，限制直播、打赏、充值等可能对未成年人不利的操作，同时过滤不良信息，建立专属内容池，引入优质内容，并在社区版规中引导用户发布正向内容。此外，得物对平台内容进行100%审核，通过机审、人审初审和复审三道防线，确保平台内容合法合规。
开展公益科普，提升未成年信息辨别能力
除了技术手段为未成年保驾护航，本次获奖的多家企业同步通过开展公益项目、科普活动引导未成年人提升信息辨别能力，激发对科学技术的兴趣。
同样作为游戏企业的“波克城市”发起的“SDG HERO 游戏素养计划”国际公益项目，为提升未成年人网络素养开辟了新路径。该项目以游戏为载体，通过互动创新的方式，激发全球儿童和青少年的创新思维与行动能力，让他们参与到世界可持续发展中。
自2021年底启动以来，项目已在中国超20个省市和10 个海外国家开展，培养了600多名Game Master（游戏素养引导师），带领近30000名儿童和青少年认识并参与可持续发展。项目组建了专业的游戏素养引导师队伍，采用PBL（Problem - Based Learning）方法，赋能一线社会工作者、教师和志愿者，引导青少年进行游戏化学习。同时，开发了SDG Hero游戏素养工具箱，以桌游形式让孩子们在玩乐中提升对网络、游戏的认知，学习可持续发展知识。此外，项目还通过录制线上课程、出版科普图书，将游戏思维和可持续发展知识传播给更多群体。
三七互娱则通过一系列举措提升青少年数字素养，携手安徽师范大学等开展青少年数字素养状况调研，搭建提升框架，针对数字意识、计算思维、数字化学习与创新、数字社会责任等维度采取措施。推出“共筑守护，心中有数”数字素养网络公开课，以趣味动漫视频引导青少年提升信息辨别能力；利用“妙小程”开展数字素养公益课，强化青少年计算思维；打造《清风侠冲冲冲》网络素养知识学习平台及线下儿童乐园，拓展信息获取渠道；采用应用戏剧形式带领青少年创作主题即兴短剧，培育数字社会责任。截至2024年，系列课程触达超20万人次，开展编程公益课逾18场，惠及超540人次，相关产品入选《未成年人网络素养提升成熟适用产品推广名单》。
此外，上海软件中心参与的“上海城市职旅”公益活动，为偏远地区的青少年带来了一场科技盛宴。2024年8月，来自西藏、云南等地区的40余名学生代表走进上海软件中心，体验了一场别开生面的新技术科普。
活动从“什么是密码和区块链”等基础概念入手，通过《解密“区块链”—— 建造一个没有 “欺骗” 的世界》《神奇的密码世界》等课程，为孩子们揭开现代科技的神秘面纱。课程以生动有趣的方式，如借助上海密码科普IP“商小密”，将密码知识与传统文化相结合，让同学们对区块链技术和商用密码的发展历史、算法原理等有了直观认识。
在这场守护未成年人网络健康成长的行动中，各方力量各展所长。无论是构建内容管理体系、创新防网暴工具，还是优化游戏管理、开展公益项目和科普教育，都体现了社会各界对未成年人的关爱与责任。未来，需要更多的企业、机构和社会力量加入，持续完善未成年人网络保护机制，为未成年人营造一个更加安全、健康、有益的网络环境。