生成式人工智能内容风险的一体化规制.pdf

出版法苑

生成式人工智能内容风险的一体化规制

◎徐磊

摘要：生成式人工智能技术建立在大模型的基础之上，并且经过大规模数据集的训练后，能够生成文本、图片、音频、

视频等内容。与以往的人工智能技术相比，生成式人工智能技术所生成的内容在质量、效率以及多样性等方面已经有了

明显的进步。生成内容在本质上是客观世界在信息空间的映射。当前，生成内容面临着虚假性、违法性、安全性等诸多

风险。因此，需要构建“数据信息、模型算法、生成内容”三位一体的规制体系，从而推动人工智能生成内容的规范应

用与健康发展。

关键词：生成式人工智能技术生成内容ChatGPT大模型风险规制

中图分类号：D922.17

2022年11月OpenAI公司发布ChatGPT模型。[1]成相应的图片。杰森·艾伦使用Midjourney生成数字艺

ChatGPT模型作为对话式大型语言模型，其功能并不仅术作品“太空歌剧院”，并借此赢得美国科罗拉多州博

限于对话，而是可以生成文本、提取概要、问题解答、览会美术比赛第一名的好成绩。[4]爱尔兰艺术家格伦·马

语言翻译、生成代码等。ChatGPT模型引发世界各国广歇尔使用OpenAI公司发布的Clip模型，生成短片“乌

泛关注，极大地推动了生成式人工智能技术的研发与应鸦”，并以此获得2022年戛纳短片电影节的评委奖。[5]

用。微软公司创始人比尔·盖茨在接受德国媒体采访时除了OpenAI公司部署的GPT系列模型以外，Google公司

表示：“ChatGPT这种具备拟人化能力的智能产品将改变发布了BERT、LaMDA和PaLM-E等模型，脸书的母公

世界，这是一种相当于个人计算机或互联网诞生的变革司Meta推出OPT-175B、LLaMA等模型。我国大型语言

性技术。”[2]2023年3月OpenAI公司正式发布多模态的模型的代表主要是百度公司的文心一言、阿里巴巴公司的

GPT-4模型。该模型在性能上明显超过ChatGPT模型，通义千问以及华为公司的盘古等。当前，生成式人工智能

并且在美国统一律师考试、美国法学院入学考试、美国高技术生成的文本、图片、音频、视频等内容，已经取得了

中毕业生学术能力水平考试、美国研究生入学考试等方面令人拍案叫绝的效果。人工智能生成内容也对出版行业产

领先于多数人类考生。[3]Midjourney是一款生成式人工智生了重大影响。生成式人工智能技术可以生成创意和创作

能制图模型。当用户输入文字描述后，Midjourney能够生内容，可以跨模态生成内容，可以策划选题和辅助编校，

[1]OpenAI.IntroducingChatGPT[EB/OL].（2022-11-30）[2023-06-10]./blog/chatgpt.

[2]郑雨航.比尔·盖茨再谈ChatGPT：重要性不亚于互联网的发明，将改变我们的世界！[EB/OL].（2023-02-11）[2023-06-11].https://

/jjxw/2023-02-11/doc-imyfieaq5995140.shtml?cref=cj.

[3]AchiamJ，AdlerS，AgarwalS，etal.GPT-4TechnicalReport[EB/OL].（2023-03-15）[2023-06-10]./abs/2303.08774.

[4]张洁凡.关注人工智能生成内容之利弊[N].中国社会科学报，2023-04-18（7）.

[5]McKenzieT.TheCrow：AnAIFilmthatWonCannesShortFilmFestival[EB/OL].（2022-09-01）[2023-06-15].https://80.lv/articles/the-

crow-an-ai-film-that-won