小程序因为内容违规被下线？想审核识别违规内容却不知如何入手？

上周，我们上线了内容安全接口，用这个“神器”帮助大家解决困扰。

今天，我们来详细了解一下这个“神器”，帮助大家更好地解决上述的各种问题。

这个帮手帮你做内容审核

用户通过小程序发布的内容，数量大、种类多，逐个校验几无可能。

小程序内容安全接口能够辅助开发者精准快速地校验小程序的文本、图片内容是否含有淫秽色情、涉违法犯罪、涉政有害等内容，抵御不良信息混入，维护小程序内容健康。

温馨提醒，开发者就算有了内容安全接口这个称心的“好帮手”，也不能对违规内容掉以轻心。

三大能力，快速发现并处理违规内容

能成为“好帮手”，当然是有“超能力”。小程序内容安全接口提供三大能力，从图片到文本，精准识别违规内容。

图片智能鉴黄

无论是用户通过拍照上传的内容、自定义头像，还是文章评论的图片，图片智能鉴黄接口都能够进行主动识别及获取色情量化程度信息，实现精准快速的色情倾向判断。

智能人脸识别

绝不“眼盲”的面部识别能力能够提取图中的人脸信息，进行相似度判断，包括重要政治人物、公众人物等图片人脸识别，帮助开发者避免业务的违规和侵权风险。

恶意文本检测

文本包含着很多潜在违法元素，内容安全接口提供了更高级智能的恶意文本检测能力，能够精准识别文本内容中的违规文字信息，辅助发现违规和恶意内容。

这些场景已经能实际使用了

目前，内容安全接口已经能够运用在小程序的文本、图片等内容校验中。

用户的个人资料、媒体类用户发表的文章及评论、游戏类用户编辑上传的素材等，开发者都能借助内容安全接口进行文字检测。

此外，内容安全接口还能对用户拍照上传、电商类商品上架图片、用户头像、媒体类用户文章配图、社交类用户上传的图片进行检测。

更多你关注的Q&A

了解完小程序内容安全接口的基础信息，也许你还会有一些疑问：这个接口到底适合谁？有什么效果？Q&A了解一下——

Q1： 开放内容安全接口能为开发者带来什么好处？

A：我们注意到，近年来，由于产品中存在违规内容而被处罚，甚至关停下架的事情时有发生，开发者的内容审核工作刻不容缓。因此，我们推出了内容安全接口，希望帮助开发者及时发现并处理图片、文本内容里的违规信息，让开发者能够将精力更集中于高质量的小程序开发当中。

Q2： 哪些小程序可以使用内容安全接口，有使用要求吗？

A：目前，内容安全接口面向所有的小程序开发者，免费提供一定额度的接口调用量，，主要为小程序内容审核工作提供帮助，平台不会留存小程序开发者提交的检测数据。如果调用量需求超出上限，开发者可以通过业务逻辑优化、自行开发内容审核手段、调用其他第三方内容审核接口等方式开展内容审核。

Q3： 有了内容安全接口，开发者是不是就能省略内容审核工作？

A：目前，内容安全接口只提供内容审核的基础能力，辅助开发者发现有害内容，但对于内容的检测结果，以及其他违法违规内容（如暴力、恐怖、血腥），开发者仍然需要履行好管理职责，自行开展审核并对有害内容进行删除等处理，并不能忽视内容审核工作。