AI时代如何筑起未成年人“网络盾牌”？专家吁技术赋能与跨区域联防

5月17日，“六一”儿童保护倡导暨“女童保护”十二周年活动在北京举办。本次活动由北京众一公益基金会、凤凰网公益主办，中国少年儿童文化艺术基金会担任指导单位，十纪科技提供场地支持。

随着人工智能（AI）技术的飞速发展，未成年人在享受其带来的便利的同时，也面临着前所未有的网络性暴力威胁。在“AI时代下未成年人网络性暴力的困境与对策”圆桌讨论中，全国政协委员、首都经济贸易大学特大城市经济社会发展研究院副院长郭媛媛，中国政法大学未成年人事务治理与法律研究基地副主任苑宁宁，北京青少年法律援助与研究中心副主任李静雯，字节跳动公益平台行业发展负责人高鹏飞等专家进行了讨论。

让AI赋能“三级预防”模式，用算法阻止不良信息传播

预防未成年人犯罪法中提出“一般预防—临界预防—再犯预防”三级防治模式，但AI技术催生了深度伪造儿童色情、虚拟身份诱导犯罪等新型手段，如何利用AI技术进行有效防范儿童性侵害？

中国政法大学未成年人事务治理与法律研究基地副主任苑宁宁长期从事未成年人事务治理与法律研究，针对这些问题，他以视频连线的方式从法律理论和技术应用的角度出发，提出了利用三级预防模式结合AI技术的思路。

苑宁宁指出，一般预防可以通过加强AI通识教育，提升未成年人对网络风险的识别能力，同时让成年人认识到网络空间的法律边界。在临界预防方面，互联网企业可以利用哈希算法等技术手段，自动检测并阻止儿童色情制品的传播。此外，再犯预防上，可以通过实名制等措施，将相关人员纳入禁止名单，防止其再次实施网络性暴力行为。

他进一步强调，AI技术的发展需要遵循风险预防原则。在新技术尚未完全明确其潜在危害时，应提前进行评估和干预。他建议企业应在产品和服务的研发、运营过程中，进行自我评估和第三方评估，确保其对未成年人的安全性。此外，他还提到可以通过设计未成年人模式、家长模式等，为未成年人提供更安全的网络环境。

构建跨区域合作保护机制，开发真正用得上的“未成年人模式”

全国政协委员、首都经济贸易大学特大城市经济社会发展研究院副院长郭媛媛指出，当前互联网及新技术的发展呈现“融、通、跨、连”四大特征，极大改变了传统社会的空间结构和运作模式，虚拟空间打破了地域限制，使更多人跨区域连接形成新的社会关系。这种变化使得原本基于“点—线—面”逻辑构建的现实社会政策机制，在面对虚拟空间时显得力不从心。尤其在未成年人保护方面，尽管我国在政策法规层面不断完善，但在执行过程中仍面临部门协同差异大、政策落实碎片化等问题。

全国政协委员、首都经济贸易大学特大城市经济社会发展研究院副院长郭媛媛

郭媛媛建议，应构建一个全国性的跨区域、跨部门协同机制，实现现实与虚拟世界之间规则的有机衔接，并推动法律、教育和保护制度全面更新，以适应数字时代的未成年人保护需求。她举例说，比如北京这样的超大城市，在技术、教育、科研和社会组织等方面具有丰富的资源，可以发挥引领作用。通过高位设计，将各方力量集成到一个系统化的保护体系中，形成全社会共同参与的未成年人网络保护格局。她进一步指出，传统社会治理理念已难以应对AI等通用技术带来的深层变革，必须通过“强化技术治理”与“激发社会行动”双轮驱动，推动社会治理体系的结构性再造。

北京青少年法律援助与研究中心副主任李静雯则从实践角度出发，指出了未成年人模式在实际应用中的局限性。她表示，未成年人模式虽然初衷良好，但由于功能受限，孩子们往往不愿意使用，这导致他们绕开该模式，进入普通模式后面临更大的风险。她建议，平台企业应进一步开发适合各个不同年龄段的未成年人心理发展水平的功能，让未成年人主动愿意使用未成年人模式。此外，她还提到，家长对孩子要多陪伴、多沟通、勤观察，发现孩子遭遇网络暴力时要及时干预，妥当处理，避免对孩子造成二次伤害。

北京青少年法律援助与研究中心副主任李静雯

多方协同与企业责任：共同守护未成年人网络空间

在讨论中，高鹏飞作为字节跳动公益平台的负责人，分享了企业在未成年人网络保护方面的实践和探索。他表示，抖音集团是最早一批响应国家号召建立青少年模式的平台之一。通过AI技术，平台能够识别未成年人用户，并对其浏览内容进行严格限制。例如，禁止未成年人参与直播、打赏等高风险行为，并通过系统性AI方式识别和拦截风险账号。

字节跳动公益平台行业发展负责人高鹏飞

高鹏飞还提到，企业在未成年人网络保护方面需要多方协同。他建议国家出台具体的法律法规或政策指南，明确企业在数据使用、跨平台协作等方面的责任与边界。同时，建立平台间的联动机制，尽快推动统一识别标准和信息共享机制，实现多平台间的实时协同与快速响应，鼓励企业根据自身擅长领域承担相应角色，共同构建多维度的保护系统，形成优势互补。此外，还需要第三方组织或协会来协调各方力量，设立由政府主管部门或行业协会牵头的第三方协调机构，负责组织管理各方资源，统一标准、推进合作，从而提升整体效率和执行力。

李静雯也认为，需要家庭、学校、社会和网络平台协同发力，共同守护未成年人的网络安全。她表示，家庭是未成年人成长的重要环境，家长应多陪伴孩子，关注他们的心理需求，提供性教育和法治教育。学校应加强性教育师资队伍建设，通过多学科融合的方式普及性知识。网络平台则应将未成年人保护提升到企业发展战略的高度，开发更多适合未成年人的产品和服务。社会则应落实强制报告制度、入职查询与从业禁止等制度，支持法律、社工和心理等专业社会组织为遭受侵害的未成年人提供综合支持和帮助。