内容审核服务使用说明

内容审核服务使用说明
发布时间: 2018-11-02 15:55

回答:


1.   服务介绍

一站式内容审核云服务产品,十多年反垃圾与内容安全经验,更先进智能技术、更全面特征库,专业保障业务安全运行。

2.   服务开通

注册并登录融云开发者平台,内容审核-开通消息审核中,点击“开通”按钮,勾选基础配置,提交服务开通。

2.1.   基础配置

基础配置包括会话类型、消息类型、审核策略。image.png

2.1.1.  会话类型

会话类型:即审核消息的应用场景。

Ø  单聊:即针对两个用户一对一聊天场景下的消息进行审核。

Ø  群聊:群组聊天,即针对两个以上用户一起进行聊天场景下的消息进行审核。

Ø  聊天室:即针对多个用户一起进行聊天场景下的消息进行审核。

2.1.2.  消息类型

消息类型:即审核消息类型。

Ø  文本消息:即针对在单聊、群聊、聊天室场景下的文本消息,进行审核。

Ø  图片消息:即针对在单聊、群聊、聊天室场景下的图片消息,进行审核。

2.1.3.  审核策略

审核策略:即针对消息审核过滤的规则。

                                                

Ø  违法:针对涉及违反国家法律,触碰国家红线的消息进行审核。

Ø  涉政:针对涉及政治人物(如国家领导人);政治事件、政治活动的消息进行审核。

Ø  色情:针对涉及色情的消息进行审核。

Ø  暴恐:针对涉及暴力血腥、恐怖主义人物、恐怖组织、恐怖旗帜的消息进行审核。

Ø  违规:针对违法国家或行业规定的消息进行审核。

Ø  粗口:针对对他人或他人亲属有指向或无指向性的攻击辱骂消息进行审核。

Ø  广告:针对宣传物品、提供服务等垃圾消息进行审核。

Ø  灌水:针对在指定时间内发布大量无意义信息的行为进行审核。 注意:为保证内容安全,默认勾选违法、涉政、色情、暴恐策略。

3.   审核策略优化

3.1.   替换词管理

替换词:即针对消息中的敏感词替换成自定义内容。

替换词管理模块主要分为,替换词查询,替换词展示,替换词添加三部分

替换词查询可通过替换词源词、应用名称、替换词状态进行查询。

替换词展示可按源词、替换词、状态、操作时间、操作人以及编辑/删除

 image.png

替换词添加需要填写如下选项

Ø  应用ID:可选择在某一应用下,添加替换词。

Ø  源词:消息中出现的敏感词。

Ø  替换词:替换词。

Ø  替换词状态:生效/失效。

 image.png

3.2.   关键词管理

关键词:即针对消息中的敏感词进行屏蔽。

关键词管理模块主要分为,关键词查询,关键词展示,关键词添加三个部分

关键词查询可通过关键字、关键字分类(政治、色情、违法、违规、粗口)、状态(停用、启用)、排序方式(更新时间)、生命周期(有效、长期、过期)条件进行查询

关键词展示可按关键词内容、分类、状态、操作人、更新时间、过期时间,且可对已有关键词进行编辑或删除

 image.png

关键词添加需要填写如下选项

Ø  关键词类别:色情、政治、违法、违规、粗口

Ø  关键词:支持单个及批量添加关键词。

Ø  描述:针对关键词的描述,可不填。

Ø  有效期:关键词失效时间,默认为3年。

 image.png

3.3.   自定义审核策略

自定义审核策略:下载自定义策略模板,根据自身审核需求,进行填写,形成定制策略,审核过滤消息。

自定义审核策略包含内容:

Ø  针对聊天中,用户短时间大量发送无意义低质量内容,进行刷屏或发送广告的行为进行审核过滤。

Ø  针对聊天中,出现的网站地址和私留的联系方式进行审核过滤。

Ø  针对聊天中,出现的人物(如明星、名人等)进行审核过滤。

具体内容请详见 自定义安全策略模板

3.4.   策略优化人工咨询服务

如当前策略无法满足审核过滤需求,请在开发者后台,内容审核 - 定制策略 填写联系人、手机号,以便我们专业运营人员和您联系。

image.png

4.   审核消息数据查询

审核消息数据查询可通过时间、应用名称、删除原因(个性化定制、政治、违规、正常、用户行为、疑似广告、色情、违法)条件进行查询。

5.   审核结果统计

审核结果统计查询可通过消息到达平台的时间、应用名称进行查询。

审核结果可按照审核结果状态(通过、删除、疑似)和数据类型(色情、政治、违法、违规、其它)进行统计并展示。

 image.png

6.   常见问题

Ø  内容审核能处理的数据类别?

1.文本类:政治敏感、色情、违法、违规(广告、低俗)、灌水等类不良信息;2.图片类:情、广告、暴恐、人脸(单张、多张、名人、政治、儿童、卡通、)等类别;

3.音频类:人工检测识别出违规数据;

4.视频类:人工检测识别出违规数据;

Ø  内容审核数据检测的准确率?

1.文本类:识别准确率在95%以上、召回率不低于85%;

2.图片类:识别准确率在90%以、召回率不低于85%;

3.音频类:音频识别准确率在95%以上,召回率不低于90%(人工过滤模式下); 4.视频类:视频识别准确率在95%以上,召回率不低于90%(人工过滤模式下);

Ø  内容审核数据检测处理速度怎么样?

1.文本类:短文本(如:直播弹幕、短评)的处理在5ms以内,长文本的处理在30ms以内。

2.图片类:由客户提交图片所在URL,我们从网上下载图片进行深度分析,耗时一般在500ms-5S之间。

3.音频类:音频数据检测处理,通过异步接口返回给客户。

4.视频类:视频数据检测处理,通过异步接口返回给客户。


*本服务由云净网提供技术支持

我对此仍有疑问!继续追问