“AI孙燕姿”爆火背后，是内容合规问题的再次升级｜上云那些事
原创
“讽刺的是，人类再怎么快也无法超越它。”这是歌手孙燕姿关于自己AI分身遍布网络一事，在MAKE MUSIC网站的博客上发表的看法。
当大家还在担心AIGC会不会让自己失业时，歌手孙燕姿就因为“AI孙燕姿”的火爆成为了面临“失业”的“第一人”，随着越来越多的网友制作和上传相关视频，“AI王菲”、“AI周杰伦”等也纷纷出现，但是在众AI歌手“想唱就唱”的背后，也引发了安全行业对内容是否合规、版权是否侵权的担忧。
近些年AIGC技术的不断发展，使得内容的产出不再仅依靠人工，机器逐渐也承担起这部分工作，相比起传统的内容，如今的互联网内容更为丰富多样。然而，这也给内容审核与管理带来了不少难题。据腾讯安全专家李镐泽介绍，AIGC可以不间断生成海量内容，这让内容安全和内容保护难度陡然提升；合成技术的不断成熟也带来了虚假错误内容的生产和传播；此外，版权保护问题也成为人工智能生成内容中颇具争议的部分，AIGC内容是否具有版权以及如何界定侵权成为难题。
由此可见，AIGC带来的安全挑战是全方位的，对于AIGC内容的治理不仅要关注生成之后的内容是否违规违法，在全链路都要有内容安全的意识和相应的保护措施。
针对这些问题，腾讯安全具备AIGC全链路的内容安全解决方案，可以助力企业更高效地应对挑战。该方案可以通过三个层面的风控措施来帮助企业解决AIGC内容风控难题。首先是在输入端部署相应的风控策略，来判断输入指令是否违规，从源头上避免违规内容的产出。
然后再加以屏蔽的措施。例如，当输入的违规词条触发部署的风控策略后，该词条会反馈给客户，并提示问法有问题，或者是不合规等等，进而避免不合规的消息的吐出。
在输出端也会进行相应风控，可以通过标记黑样本并保存至样本库，在输出端匹配关联特征并拦截，避免模型生成不合规内容。
事实上，机器是依靠输入指令以及模型训练生成相应的内容，从某种程度上看，“人”作为发令者承担着相当大一部分责任，而AIGC技术相当于一种媒介。因此对于内容安全方面的治理不仅仅是“治事”，更要“治人”，这就需要联动起整个行业。
李镐泽认为，由于目前仍没有相关法律法规专门针对AIGC生产内容的监管，对于非底线类的内容治理更多是需要企业自觉承担起自查和管理的责任，行业内也需要建立比监管更加严格的管理标准来保障内容生态质量。
平台方则需要建立更完善的风控策略，从单点的风控升级为面的风控，在面的风控中灵活应用组合策略，才能够实现对于技术生成内容的精准识别和处置。相关的厂商也需要不断去学习新的风险点，并迭代相关的风控模型，以应对更多新的内容风险的出现。
对于个人用户来说，专家建议其应当进一步提升安全意识，面对海量的互联网信息时要“擦亮眼睛”，仔细甄别AIGC带来的虚假错误信息，避免上当受骗。
「上云那些事」
南方日报、南方+联合腾讯安全推出的栏目，计划通过对网络安全问题深入浅出的讲解，更好地让大众认识到网络安全的重要性，同时也找到适合自己的应对方案。
记者：叶丹
原创声明：本文系作者授权腾讯云开发者社区发表，未经许可，不得转载。
如有侵权，请联系 cloudcommunity@tencent.com 删除。
原创声明：本文系作者授权腾讯云开发者社区发表，未经许可，不得转载。
如有侵权，请联系 cloudcommunity@tencent.com 删除。