科技巨头联手推出ROOST，助力AI时代儿童在线安全

在数字浪潮中，儿童在线安全成为焦点。近日，Roblox、Discord、OpenAI与谷歌携手，创立了非营利组织ROOST（强大开放在线安全工具）。其目标明确，旨在为AI时代打造可扩展且互联互通的安全基础设施，重点保障儿童在线安全。

图源备注:图片由AI生成，图片授权服务商midjourney

生成式AI的迅猛发展，改变了网络环境，儿童面临的风险与日俱增。在此背景下，ROOST应运而生，旨在为公共和私人机构提供开源安全工具，避免小型公司或组织开发工具时从零起步，直接采用免费解决方案，加强平台对儿童的保护。

ROOST计划着重提供检测、审核和报告儿童性虐待材料（CSAM）的工具。这一行动能助力各类平台识别和处理不当内容，为儿童营造安全的网络空间。参与的科技公司不仅投入资金，还贡献技术力量。

儿童在线安全一直备受关注。在《儿童与青少年在线隐私保护法案》和《儿童在线安全法案》审议期间，谷歌和OpenAI等科技公司承诺停用AI技术生成儿童性虐待材料。

对Roblox而言，儿童安全至关重要。2020年数据显示，美国九至十二岁儿童中，三分之二在使用该平台。且Roblox曾面临儿童安全挑战，2024年《彭博商业周刊》报道其遭遇“恋童癖问题”，促使平台加强对儿童私信的限制并实施新政策。

尽管ROOST不能解决所有问题，但为Roblox等类似平台提供了简便应对方案，为保障AI时代儿童安全贡献力量。