1.   服务介绍

一站式内容审核云服务产品，十多年反垃圾与内容安全经验，更先进智能技术、更全面特征库，专业保障业务安全运行。

2.   服务开通

注册并登录融云开发者平台，内容审核-开通消息审核中，点击“开通”按钮，勾选基础配置，提交服务开通。

2.1.   基础配置

基础配置包括会话类型、消息类型、审核策略。

2.1.1.  会话类型

会话类型：即审核消息的应用场景。

Ø  单聊：即针对两个用户一对一聊天场景下的消息进行审核。

Ø  群聊：群组聊天，即针对两个以上用户一起进行聊天场景下的消息进行审核。

Ø  聊天室：即针对多个用户一起进行聊天场景下的消息进行审核。

2.1.2.  消息类型

消息类型：即审核消息类型。

Ø  文本消息：即针对在单聊、群聊、聊天室场景下的文本消息，进行审核。

Ø  图片消息：即针对在单聊、群聊、聊天室场景下的图片消息，进行审核。

2.1.3.  审核策略

审核策略：即针对消息审核过滤的规则。

Ø  违法：针对涉及违反国家法律，触碰国家红线的消息进行审核。

Ø  涉政：针对涉及政治人物（如国家领导人）；政治事件、政治活动的消息进行审核。

Ø  色情：针对涉及色情的消息进行审核。

Ø  暴恐：针对涉及暴力血腥、恐怖主义人物、恐怖组织、恐怖旗帜的消息进行审核。

Ø  违规：针对违法国家或行业规定的消息进行审核。

Ø  粗口：针对对他人或他人亲属有指向或无指向性的攻击辱骂消息进行审核。

Ø  广告：针对宣传物品、提供服务等垃圾消息进行审核。

Ø  灌水：针对在指定时间内发布大量无意义信息的行为进行审核。 注意：为保证内容安全，默认勾选违法、涉政、色情、暴恐策略。

3.   审核策略优化

3.1.   替换词管理

替换词：即针对消息中的敏感词替换成自定义内容。

替换词管理模块主要分为，替换词查询，替换词展示，替换词添加三部分

替换词查询可通过替换词源词、应用名称、替换词状态进行查询。

替换词展示可按源词、替换词、状态、操作时间、操作人以及编辑/删除

替换词添加需要填写如下选项

Ø  应用ID：可选择在某一应用下，添加替换词。

Ø  源词：消息中出现的敏感词。

Ø  替换词：替换词。

Ø  替换词状态：生效/失效。

3.2.   关键词管理

关键词：即针对消息中的敏感词进行屏蔽。

关键词管理模块主要分为，关键词查询，关键词展示，关键词添加三个部分

关键词查询可通过关键字、关键字分类（政治、色情、违法、违规、粗口）、状态（停用、启用）、排序方式（更新时间）、生命周期（有效、长期、过期）条件进行查询

关键词展示可按关键词内容、分类、状态、操作人、更新时间、过期时间，且可对已有关键词进行编辑或删除

关键词添加需要填写如下选项

Ø  关键词类别：色情、政治、违法、违规、粗口

Ø  关键词：支持单个及批量添加关键词。

Ø  描述：针对关键词的描述，可不填。

Ø  有效期：关键词失效时间，默认为3年。

3.3.   自定义审核策略

自定义审核策略：下载自定义策略模板，根据自身审核需求，进行填写，形成定制策略，审核过滤消息。

自定义审核策略包含内容：

Ø  针对聊天中，用户短时间大量发送无意义低质量内容，进行刷屏或发送广告的行为进行审核过滤。

Ø  针对聊天中，出现的网站地址和私留的联系方式进行审核过滤。

Ø  针对聊天中，出现的人物（如明星、名人等）进行审核过滤。

具体内容请详见 自定义安全策略模板

3.4.   策略优化人工咨询服务

如当前策略无法满足审核过滤需求，请在开发者后台，内容审核 - 定制策略 填写联系人、手机号，以便我们专业运营人员和您联系。

4.   审核消息数据查询

审核消息数据查询可通过时间、应用名称、删除原因（个性化定制、政治、违规、正常、用户行为、疑似广告、色情、违法）条件进行查询。

5.   审核结果统计

审核结果统计查询可通过消息到达平台的时间、应用名称进行查询。

审核结果可按照审核结果状态（通过、删除、疑似）和数据类型（色情、政治、违法、违规、其它）进行统计并展示。

6.   常见问题

Ø  内容审核能处理的数据类别？

1.文本类：政治敏感、色情、违法、违规（广告、低俗）、灌水等类不良信息；2.图片类：情、广告、暴恐、人脸（单张、多张、名人、政治、儿童、卡通、）等类别；

3.音频类：人工检测识别出违规数据；

4.视频类：人工检测识别出违规数据；

Ø  内容审核数据检测的准确率？

1.文本类：识别准确率在95%以上、召回率不低于85%；

2.图片类：识别准确率在90%以、召回率不低于85%；

3.音频类：音频识别准确率在95%以上，召回率不低于90%（人工过滤模式下）； 4.视频类：视频识别准确率在95%以上，召回率不低于90%（人工过滤模式下）；

Ø  内容审核数据检测处理速度怎么样？

1.文本类：短文本（如：直播弹幕、短评）的处理在5ms以内，长文本的处理在30ms以内。

2.图片类：由客户提交图片所在URL，我们从网上下载图片进行深度分析，耗时一般在500ms-5S之间。

3.音频类：音频数据检测处理，通过异步接口返回给客户。

4.视频类：视频数据检测处理，通过异步接口返回给客户。

＊本服务由云净网提供技术支持