讲故事，通常是经过一些巧妙的包装，里面掺杂了有争议 的内容（就像开头提到的制造炸弹那个例子）。故事讲到一 半，剩下的交给 AI 模型，后者由于拥有强大的文本生成的 能力，会忠实地把缺失的部分回答完整。攻击者通过 LLM 输出其在训练数据中所存在的不符合伦理道德的数据，产生 存在社会偏见的回答，如性别、种族或其他偏见，导致不公 平的结果，对社会和个体的稳定性、安全性和隐私性构成潜 在威胁。[1]据美网络安全新闻网站 后结果进行简单组合，以绕开模型的拒绝机制。 [1] 天枢实验室. M01N Team, 《LLM 安全警报：六 起真实案例剖析，揭露敏感信息泄露的严重后果》, 2023. [2] 天枢实验室. M01N Team, 《LLM 安全警报：六 起真实案例剖析，揭露敏感信息泄露的严重后果》, 2023. [3] 天枢实验室. M01N Team, 《LLM 安全警报：六 起真实案例剖析，揭露敏感信息泄露的严重后果》, 2023

内容等伴生风 险，就像一头正在向我们走来的灰犀牛。2023 年 5 月，Gartner 发布法律和合规领导者必须评估的 ChatGPT 风险报告并指 出，ChatGPT 和其他大型语言模型（LLM）工具生成的输出 容易受到多种风险的影响。[1]生成式 AI 存在三大安全隐患， 一是源于技术缺陷，二是源于数据缺陷，三是源于用户滥用。 这三个问题的根源在于大模型的固有脆弱性，如生成偏见、

策法规挑战 AIGC与社交媒体：智能生成 增强交互AIGC与虚拟人：多模支持 定制服务 大语言模型LLM+多模态支持：自然语言的交互方式、声音、图片、视频、3D资产等多种支持 降低创作成本 真人听观虚拟人 真人-虚拟人多模态交互 解放模特服饰/表情/动作 MJ快速生成IP形象 LLM赋能智慧 具备特殊知识与表达的名僧 原画-3D-真人转化链 构成可逆环重构资产转化链 重构视频流形象