易盾反垃圾

对象存储的易盾反垃圾功能可以帮助用户对于上传到指定桶里面的图片资源进行智能识别,它能够精准的识别各种违法违规以及垃圾内容,例如色情、暴恐、涉政、广告等垃圾内容,帮助用户自动鉴别违法和垃圾内容,减少人工审核以及监管层面所带来的巨大成本。

功能描述

自动识别处理垃圾信息

开通反垃圾功能后对象存储可以根据配置的规则,自动将色情、暴恐、涉政、广告等垃圾内容移动到指定的私有桶中,当用户访问违规内容时候会返回 404,可以有效的避免监管层面所带来的成本和人工审核成本。

自动回调

配置回调地址后,可以自行根据返回的回调信息对可疑的违法内容做进一步处理,可以对筛选后的可疑内容进行再次确认是否违规。

操作步骤

1.首先,打开网易云控制台,找到「对象存储」,在对象存储首页,找到 「易盾反垃圾」;

2.在列表中,选择你所需要进行审核的桶,点击右侧的「修改自动处理」;

3.在弹出的对话框中,开启自动处理,并选择要处理的对象以及处理方式,如图所示,你可以将上传到桶内的违规和可疑对象移动至其他桶内;

4.点击确定后返回, 在列表页中找到你的桶,点击开启回调,可以输入你的回调接收地址(回调地址需要自行提供),开启后后续的处理结果会通过该回调地址返回;

以 Python 为例,将以下代码保存为 object_result.py,需要安装flask 模块

from flask import Flask,request
app = Flask(__name__)

@app.route('/',methods=['GET', 'POST'])
def hello_world():
    print(str(request.data,encoding='utf-8'))
    return ""

if __name__ == '__main__':
    app.run(host="0.0.0.0",port="80")

假设服务器地址为 59.111.10.112,执行如下代码,并在控制台配置回调地址为 http://59.111.10.112

Python3  object_result.py

当配置完回调地址后,上传图片后会接收到类似如下的内容

[
    {
        "ReceiptHandle": "1", 
        "MessageBodyMD5": "8cefa4b2764513d2835b3b488a0f9b8d", 
        "MessageBody": "eyJidWNrZXROYW1lIjoiZmlsZTIwMTUwMyIsIm9iamVjdE5hbWUiOiJocWRlZmF1bHQuanBnIiwidHlwZSI6ImltYWdlIiwidGFza0lkIjoiMDBkZDRlNzU2MDI2NDQ0ZGI2NmFlYThhZWNhYThmMmMiLCJzdGF0dXMiOjAsInJlc3VsdCI6W3sibGFiZWwiOjQwMCwibGV2ZWwiOjAsInJhdGUiOjAuMH0seyJsYWJlbCI6MjEwLCJsZXZlbCI6MCwicmF0ZSI6MC4wfSx7ImxhYmVsIjoxMDAsImxldmVsIjowLCJyYXRlIjowLjB9LHsibGFiZWwiOjUwMCwibGV2ZWwiOjAsInJhdGUiOjAuMH0seyJsYWJlbCI6MjAwLCJsZXZlbCI6MCwicmF0ZSI6MC4wfSx7ImxhYmVsIjozMDAsImxldmVsIjowLCJyYXRlIjowLjB9LHsibGFiZWwiOjExMCwibGV2ZWwiOjAsInJhdGUiOjAuMH1dfQ=="
    }
]

其中参数含义如下

参数名称类型描述
ReceiptHandlestring消息的标识
MessageBodyMD5String消息的 MD5值,主要是校验body的数据准确性
MessageBodyjson消息实体内容,需要经过base64 解码才能看到具体信息

将 MessageBody 中的内容进行base64 解码,得到如下信息

{
    "bucketName": "file201503", 
    "objectName": "hqdefault.jpg", 
    "type": "image", 
    "taskId": "00dd4e756026444db66aea8aecaa8f2c", 
    "status": 0, 
    "result": [
        {
            "label": 400, 
            "level": 0, 
            "rate": 0
        }, 
        {
            "label": 210, 
            "level": 0, 
            "rate": 0
        }, 
        {
            "label": 100, 
            "level": 0, 
            "rate": 0
        }, 
        {
            "label": 500, 
            "level": 0, 
            "rate": 0
        }, 
        {
            "label": 200, 
            "level": 0, 
            "rate": 0
        }, 
        {
            "label": 300, 
            "level": 0, 
            "rate": 0
        }, 
        {
            "label": 110, 
            "level": 0, 
            "rate": 0
        }
    ]
}

MessageBody 数据结构

参数名称类型描述
bucketNamestring桶名称
objectNameString图片名称(或图片标识)
typeString文件类型 image 表示图片,video 表示视频
taskIdString本次请求数据标识,可以根据该标识查询数据最新结果
statusNumber图片检测状态码,定义为:0:检测成功,610:图片下载失败,620:图片格式错误,630:其它
labelsjson数组分类信息

labels 数据结构

参数名称类型描述
labelNumber分类信息,100:色情,110:性感,200:广告,210:二维码,300:暴恐,400:违禁,500:涉政
levelNumber分类级别,0:正常,1:不确定,2:确定
rateNumber分数

5.至此,一个自动反垃圾的桶就配置完成了,当上传的资源是违规图片时,系统会自动将其移动到你配置的桶内;

6.如果你希望查看更具体的信息以及对过滤内容进行配置,可以在列表页找到对应的桶,点击查看详情, 跳转到易盾首页,选择左侧的「反垃圾」-「服务管理」,切换选项卡至你配置的桶,在开通的服务下面选择的普通图片后点击操作;

7.在该页面可以勾选需要过滤的垃圾类型,如图所示:

8.关于易盾控制台的配置,您可以参考易盾的相关文档和使用手册;