AIGC(人工智能生产内容) 已经成为与PGC(专业生产内容)、UGC(用户生产内容)并驾齐驱的内容生产方式。由于 AI 的特性,AIGC在创意、个性化、生产效率等方面具有独特的优势,这些优势可以使得高质量的内容制作更简单,但也会帮助恶意份子更高效地炮制违法违规内容。数据万象从 AIGC 的输入、生产、存储全方面介入,发布了《AIGC 存储内容安全解决方案》,帮助各开发者及时发现风险信息,降低业务安全风险。
2022年,ChatGPT的推出,使 AIGC 这个名词进入了大众的视野。Stable Diffusion、MidJourney等可以生成图片的 AIGC 直接引爆了 AI 作画领域。Gartner 将生成性 AI 列为2022年五大影响力技术之一。AIGC 已经已经成为 AI 领域的新疆域,推动着人工智能步入下一个新时代。
AIGC的风潮直接吸引了大量的开发者蜂拥而入,渴望能占到这个风口的红利。但现实情况是,大量的 AIGC 在上线初期就面临关停风险,核心原因就在于AIGC输出的内容具有不确定性,导致这些平台因涉嫌传播违规内容而被勒令下架。所以,AIGC 的发展必须解决内容上的安全与规范。
4月11日,国家互联网信息办公室起草了《生成式人工智能服务管理办法(征求意见稿)》,这意味着国家已经在密切关注 AIGC 的发展,在合法合规的前提下,支持 AIGC 的商用及健康发展。
在《意见稿》中,有13条规定是面向 AIGC 平台的,因 AI 的特性,让 AIGC 在处理安全风险方面有着更大的挑战:
成倍增长的审核量:AIGC 正处业务增长爆发期,数据量将持续增高;AIGC 生成内容速度较快,短时间即可生成大量内容。
对审核的时效性要求极高:随着 AIGC 应用的场景越来越广泛,在实时交流等交互性强的场景中要求毫秒级的审核响应。
违规类型多种多样:AIGC 根据人为的“指令”生成内容,生成内容由大模型随机而成,产出类型不可预测。
内容隐晦复杂:AIGC 可被人为训练引导,生成变体文本、隐晦违规含义的图片,对审核的准确识别要求极高。
基于以上挑战,腾讯云数据万象从 AIGC 的输入、生产、存储全方面介入,发布了《AIGC 存储内容安全解决方案》,帮助各开发者及时发现风险信息,降低业务安全风险。
内容输入审核
用户通过 AIGC 应用输入原始的文本、图片 prompt ;
平台可将用户的原始输入信息通过万象直接进行审核;
根据审核结果:敏感信息直接拦截、正常信息进入 AIGC 大模型。
内容生产审核
正常的 prompt 进入大模型,生成 AI 数据(文本、图片、音视频);生成的图片、文本数据通过数据万象进行审核;
根据审核结果:敏感数据直接拦截,正常的文本内容可直接通过应用返回给用户,正常图片进入对象存储 COS。
内容存储审核生成音视频数据先进入对象存储 COS,再通过数据万象进行异步审核;
对于存储在 COS 中经过了审核后的图片、音视频数据,可在应用层通过 COS 链接的形式返回给用户进行访问查看。
与其他安全审核服务相比,数据万象内容审核具有天然的存审一体化的结合优势:
- 与 COS 深度集成,支持一键扫描审核 COS 中的历史数据;
- 审核模块与 COS 之间内网获取数据,免除因拉取数据而产生的外网流量费用;
- 高度便捷的操作,支持数据上传到 COS 后自动执行审核、自动冻结违规数据;
同时数据万象支持用户自定义审核策略,可根据不同数据场景使用不同的策略:
- 在用户输入的 prompt 提示词场景:可适当降低审核要求,让用户尽可能保持输入体验,重点拦截高度敏感的内容;
- 在 AIGC 模型生成的内容场景:严格把控提高审核要求,确保存储、分发的内容是合法合规的,除高度敏感的内容外,擦边、低俗等内容也应在管控拦截范围内。
不管是对新涌入的新手开发者,还是打算涉猎 AIGC 的巨头企业,AIGC都是一个风险与机遇并存的领域,所有新事物的发展都必须在合法合规的前提之下。保持自身业务的安全、健康,才是 AIGC 平台可持续发展的关键因素。数据万象在内容安全领域持续深耕,希望可以为各大 AIGC 平台提供最坚实的安全保障。
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。