阿里云盾-文本智能审核

「阿里云盾-文本智能审核」是什么

阿里云盾-文本智能审核是一款为保障内容安全而生的产品。它依托阿里巴巴多年积累的海量互联网数据训练出的先进AI模型，可对文本进行智能审核，快速、精准地识别出其中的违规内容，帮助用户大幅度降低人工审核成本，提升内容质量，改善平台秩序和用户体验 。

功能解析

• 内容审核API：提供文本形式内容审核API，覆盖暴恐、涉黄、广告、辱骂、不良场景等风险检测能力，能精准识别文本中的各类风险。
• 内容风险智能识别：用户可上传文本进行智能的风险识别，系统会快速给出识别结果，方便用户及时了解文本的风险状况。
• 内容风险人工审核：在机器识别基础上，提供基于文本的人工审核服务，进一步保证风险内容的识别准确率，确保审核结果的可靠性。
• 内容审核平台：提供可视化的控制台，支持用户自行进行内容审核、数据查询等操作，方便用户管理和查看审核信息。

产品特色

• 海量数据样本：基于阿里巴巴多年积累的海量互联网数据训练先进AI模型，使得审核更精准、更智能。
• 弹性服务扩容：服务能够秒级弹性扩容，轻松满足用户在短时间内大量业务数据的审核需求。
• 性价比高：自动化精准识别，不仅节省大量审核人力投入，还能毫秒级返回结果，提高审核效率。
• 个性化定制：有内容安全专家团队一对一运营，支持个性化识别策略调整，满足不同用户的特殊需求。

应用场景

• AIGC内容审核场景：在生成式人工智能应用中，当模型应用阶段，用户输入和生成内容时，阿里云盾-文本智能审核可检测是否存在涉黄、暴恐、违禁等风险内容。比如一些AIGC写作平台，用户创作的文章、文案等都需要经过审核，该产品就能快速准确地识别风险，保障平台内容安全。
• 大模型文本审核场景：大模型生成的文本在传播和使用前，通过阿里云盾-文本智能审核可以过滤掉其中的不良信息。例如一些智能客服系统，利用大模型生成回复内容，经过该产品审核后，能确保回复内容符合规范。

产品定价

产品售卖通用资源包，可用于内容审核相关服务。- 图文音视频审核资源包：面向AIGC业务，用于抵扣全类型内容审核用量。- 图文审核开发者实践包：面向AIGC开发者，用于抵扣图片文本审核用量。- 内容审核增强版资源包：用于抵扣内容审核全类型调用，规格越高价格越优惠。- 内容安全1.0版本资源包：抵扣1.0版本调用，有阶梯优惠。

使用指南

1. 首先，用户需要登录阿里云盾-文本智能审核的内容审核平台，进入可视化控制台。
2. 若选择使用内容审核API进行审核，需按照API文档说明，准备好要审核的文本内容，进行相关参数配置后发起请求。
3. 若只是简单上传文本进行智能风险识别，在控制台找到对应的上传入口，上传文本即可等待系统给出识别结果。
4. 如果对机器识别结果存疑，可选择内容风险人工审核服务，提交相关文本，等待人工审核团队给出审核结果。