如今小程序正式上线已有两年时间了，上线小程序总数超过百万，日活达2.8亿。随着小程序生态的繁荣，小程序内容安全成为外界关注的重点。

部分小程序开发运营者缺乏搭建体系化内容安全策略的能力，导致其开发运营的小程序存在安全隐患。

6月21日，微信正式上线“珊瑚内容安全助手” （以下简称“珊瑚”）小程序，公众号运营者和小程序开发者可以通过小程序一键鉴别内容和产品的安全风险。

作为微信首个移动端安全鉴别工具，“珊瑚”小程序的推出，意味着微信将在内容安全方面为运营者和开发者提供更多帮助。

一、小程序违规现状

2018年全年小程序侵权投诉近4000件。从投诉类型看,主要分为两大类:一是小程序的昵称、头像、功能简介；二是小程序内容。腾讯方表示，针对违规现象及可能存在的问题，将加强审核和巡查，持续坚决打击，绝不姑息。

任何新技术的开发运用都如硬币的两面，善用之则为福，不善用之则为祸。就在微信小程序发展壮大的过程中，一些违规小程序也逐渐出现，以隐蔽手段侵害消费者利益。

小程序本身没有原罪，但小程序功能的实现依托于具有海量用户的微信平台，若不加以审慎防范和严格监管，则很容易被某些违法违规产品和行为钻空子，成为滋生犯罪的温床。

二、“珊瑚”小程序三大能力

据了解，“珊瑚”小程序将为运营者和开发者提供风险自测、内容鉴别、行业动态等三个维度的功能，由腾讯云提供技术支持。

风险自测

开发者可以通过勾选自己的产品功能，各功能发布的内容情况，由“珊瑚”小程序自动计算出产品风险评级，给予针对性风险提示及风险防控建议，让开发者及时了解和规避风险。

内容鉴别

支持文字鉴别，能检测出色情、政治敏感、违法、谩骂等恶意内容，从根源上杜绝传播，更好的保护产品安全。

支持图片鉴别，对上传的图片进行识别，能检测出色情、政治敏感、暴恐等恶意内容，并灵活地进行处置，有效地防止用户生产和传播恶意图片内容。

「音频鉴别」和「视频鉴别」功能也很快也会上线。

行业动态

如果小程序要想做好内容运营，就要实时了解最新行业动态和法律法规，珊瑚小程序行业动态板块定期更新互联网行业内容安全动态、相关法律法规等内容，帮助开发运营者及时掌握行业情况。

三、开放内容安全接口

在平台本身严厉打击不良违规内容的同时，微信也将内容审核的能力“下放“给了小程序开发者。近年来，由于产品中存在违规内容而被处罚，甚至关停下架的事情时有发生，开发者的内容审核工作刻不容缓。

因此，腾讯推出了内容安全接口，希望帮助开发者及时发现并处理图片、文本内容里的违规信息，让开发者能够将精力更集中于高质量的小程序开发当中。

四、总结

在微信这样的去中心化体系里，审核的目的从不是为了给小程序设置上限，而是从用户体验的角度出发，维护基本的底线。

未来，“珊瑚”小程序将基于腾讯云图像分析等AI技术，为广大小程序开发者提供更强、更丰富的内容安全能力，并持续运营、定期更新行业内容安全动态信息，帮助开发运营者了解最新的行业情况。