微信推送内容安全助手小程序:一键式帮助识别风

2020-12-13
来源:

(原标题:微信推出了“珊瑚内容安全助手” 小程序,单击可帮助开发人员识别内容风险)

网易科技新闻6月21日报道,微信正式启动了“珊瑚内容安全助手”(以下简称“珊瑚”)小程序。官方帐户运营商和小程序开发人员可以使用小程序一键来识别内容和产品安全风险。

微信小组指出,小程序之所以称为“珊瑚”,是因为珊瑚是一种对生存环境有很高要求的生物,这意味着小程序,开发人员,平台和环境是共生的。赢得关系。只有生态各方共同维护健康的生态,工业环境才会越来越好。

据了解,Coral 小程序将在腾讯云提供的技术支持下为运营商和开发人员提供包括风险自检,内容标识和行业动态在内的三个方面的功能。开发人员和操作人员可以通过检查自己的产品功能和每个功能的发布内容的状态,通过“珊瑚” 小程序自动计算产品风险等级,目标风险警告以及相应的风险预防和控制建议,以便开发人员可以理解产品的安全隐患。

在文本识别和图像识别模块中,“珊瑚” 小程序还可以提供有关用户上载内容是否包含非法和有害信息的识别结果,并为开发人员和操作员提供“能力介绍”和访问指导文件“经验”,从“了解”到“访问”,提供一站式安全能力服务。后续的“ Coral” 小程序也将支持音频和视频识别功能,以为用户提供更完整的内容安全服务。

此外,“珊瑚” 小程序还包含定期更新的互联网行业内容安全趋势,相关法律法规等,以帮助开发商和运营商及时掌握行业情况。

据了解,微信团队在2018年5月为开发人员打开了两个API界面,用于文本检查和图像检查,以帮助开发人员及时发现不良内容信息。今年6月6日,微信在腾讯“ Cloud Owl”的技术支持下推出了小程序内容安全异步检查接口(mediaCheckAsync),以为开发人员提供更高级和更强大的内容安全功能,包括异步检查两个多媒体文件,图片和音频,并自动识别色情,暴力恐怖主义等非法,有害和高风险内容。原始同步界面中的文件大小限制也从1M增加到10M,可以满足常见格式和大小的图像查看需求。

未来,Coral 小程序将基于人工智能技术(例如腾讯云图像分析)为小程序开发人员提供更强大,更丰富的内容安全功能,并将继续运营并定期更新行业内容安全动态信息,以帮助开发人员和运营商了解最新的行业状况,并建立健康繁荣的小程序生态。 (一个橙色)

分享