AIGC发展研究 清华大学 新闻学院、人工智能学院 @新媒沈阳 团队、 AIGC 2024年11月团队简介 沈阳为清华大学新闻学院/人工智能学院教授、博导，清华大学新 闻学院元宇宙文化实验室主任，清华大学新闻学院新媒体研究中心主任。 从事多个教学科研领域，包括新闻传播学、计算机科学、信息管理学、 医学。 领导学术研究团队近40人。指导AI元宇宙和机器人两个产业团队。 提取码： 524z《天命使徒》人机融合式文学 华东师范大学传播学院院长王 峰教授及其团队通过“大语言 模型＋提示词工程＋人工后期 润色”的方式完成 国内首篇百万字AI小说AI论文写作 下载地址：清新研究 经过共十五次AI交互（13次文本对话、1次图片对话、 1次AI幻觉矫正），经历约三十分钟撰写、十分钟word排版 删减，清华大学新闻与传播学院沈阳教授团队使用AI生成了 一篇8264字的小论文。 生成视频AI视频：智能拟真 虚实难辨文生视频：五层价值 绘声绘色 美学价值 社会价值 情绪价值 时空价值 消费价值001号AI微短剧《中国神话》 由总台视听新媒体中心与总台人工智能工作室联合清华大学新闻学院元宇宙文化实验室制作，美术、分镜、 视频、配音、配乐全部由AI完成，国内首部AI全流程微短剧《中国神话》已经上线。该片获得001号微短 剧网标。 中国第一部AI微短剧：《中国神话》新华社“说真相”系列节目

组织总部教育 信息化与人工智能教育部门苗逢春主任在编写过程中给予的深 度指导；感谢北京市教育委员会李奕主任、张耀天副主任，以及 信息化处吴雅星处长的大力支持；感谢北京大学黄铁军教授、北 京航空航天大学吴文峻教授、清华大学张松海教授等人工智能领 域专家提出的重要建议。 同时，诚挚感谢北京市东城区智慧教育研究中心杜斌主任、 北京市朝阳区教师发展学院胡秋萍主任、北京市石景山区教委现 代教 北京市海淀区中关村第一小学邓翼涛副校长、北京市第十八中学 李金栋校长、北京市第八十中学任炜东校长、北京中学科技分校 于瑞利副校长等基础教育领域专家提出的专业意见与建议。 亦感谢北京师范大学附属实验中学韩冬兵、北京大学附属中 学肖然、北京市昌平区第二中学回龙观校区杨静、北京市三帆中 学刘晓辉、陈立雪、张雅雯、刘爽、易晓丹等一线教师提出的宝 贵建议与专业支持。 诸位专家的真知灼见为本蓝皮书的学术质量与专业水平提 [27]TAL, 2023, https://www.mathgpt.com/69 版权声明 本蓝皮书版权属于北京师范大学智能技术与教育应用教育 部工程研究中心和北京市数字教育中心（北京电化教育馆），并 受法律保护。转载、摘编或制用其它方式使用本蓝皮书文字或者 观点的，应注明“来源：北京师范大学智能技术与教育应用教育 部工程研究中心与北京市数字教育中心（北京电化教育馆）”。 违反上述声明者，编者将追究其相关法律责任。

出的结果再来训练新模型，并重复这一循环。他们发现，模 型每迭代一次，错误就会叠加一次。当人们要求第 10 次被 训练出的模型写出有关英国历史建筑的内容时，它输出的却 是有关豺兔的一堆胡言乱语。[3]英国牛津大学机器学习研 究员伊利亚·舒迈洛夫及其同事称这种现象为“模型崩溃”。 萨卡尔及其在西班牙马德里和英国爱丁堡的同事，用一种名 为扩散模型的 AI 图像生成器进行了类似实验：第一个模型 可以生成可 的训练数据。随着 AI 生成的内容充斥互联网，它正在破坏 未来大模型训练的数据。 如今，人工智能已经强势侵入人类的互联网，极大地改 变了网上文本和图像的生成和传播系统。牛津大学、剑桥大 学、帝国理工大学、多伦多大学研究人员发现，使用 AI 合 成数据训练 AI，在进行 9 次迭代后，模型开始出现诡异乱码进而直接崩溃，相关研究论文登上 Nature 封面。[4]研究人 员发现，如果大模型在数据训练中不加区别地使用 后 大模型会错误地感知现实。如果每一代新的模型都是在前一 代生成的数据上进行训练，会导致多代 AI 生成模型的退化， 也就是“垃圾进，垃圾出”。AI 合成数据，无异于给数据集 “投毒”。杜克大学助理教授 Emily Wenger 在 Nature 上发表 一篇社论文章指出：AI 基于自身数据训练，生成的图像扭曲 了狗的品种。在初始数据集中，不仅有金毛、柯基，还有法 国斗牛犬、小体巴塞特雪橇犬等。基于真实数据训练后的大

100 条定律|网络舆情的 150 人定律 150 人定律（Rule Of 150），即是著名的邓巴数字。英 国牛津大学进化人类学教授罗宾·邓巴（Robin Dunbar）通 过对 38 种灵长类族群的研究，发现每一个族群数量稳定在 一个相对稳定的范围，能互相协助，比如狒狒种群平均数量 50 左右。他还研究了 21 种不同形态的原始社会，人类在石 器时代的每一个原始村落，平均人数约 150 人，也能证实一个人能维持 150 人的稳定人 际关系这个推论。 2015 年，腾讯官方数据显示，微信用户最多可以添加 5 000 个好友，60%微信用户是年轻人（15-29 岁），人均好友 1 28 个；大学生从毕业到工作，微信好友平均增加 20%。这也 基本符合 150 人定律。无论你拥有多少 QQ、微信好友还是 微博粉丝，因为精力、时间等有限，我们经常联系的好友还是圈定在一个小范围。根据联系频率和亲密感不同，人们的 友人数是 16 位。因此，好友最多的 Facebook 用户，经常联 系的好友也就是一小撮人。虽然人们在社交媒体上拥有更多 的好友，可以更有效宣传自己，但他们仍只拥有同样少量的 亲密朋友。 美国哈佛大学彼德·巴斯登（Peter Marsden）发现，即 便经常从事社交活动的美国人，他们也只会与少数好友谈论 重要事情。《经济学人》网络版发表文章提出，尽管社交媒 体令社交活动变得轻松自如，但社交媒体并非能够扩大人类

无消息来源甚至无中生有的所谓新闻，生成式 AI 也能生动 报道。再如，提问 ChatGPT 有关清华大学校歌歌词问题，实 际上它并不知道，但它会随便编写了一个。最大的问题是机 器自己不知道自己有错和错在哪里。比如告诉它说:不对， 清华大学的校歌歌词是“西山苍苍，东海茫茫……”，它马 上回答：我错了，清华大学校歌是“西山苍苍，东海茫茫……”， 后面又自己随意编写下去。[3] 可以想象，不良企图者可以通过引导引导或误导，让生

前 200 效应，是指前 200 个网民的评论倾向，会在很大 程度上决定后续成千上万评论的内容。这是一个基于统计数 量意义上的结果。关于这个现象，2013 年复旦大学李良荣教 授和研究生于帆提出了一个“前 10 效应”，也就是前 10 位 网民的意见和评论，决定了后续的数十甚至成百上千的意见 和评论的内容与态度，从而形成网络舆论 100 条定律|网络舆情前 200 效应 。 前 10 很强导向性，会给后来的讨论定下基调和方向。人们常常倾 向于相信这些“先声”，容易认同它的价值判断，附和它的 意见主张，形成一种强大的舆论声势，至于议论的事实是否 清楚、判断是否正确，反而变得不再重要。 斯坦福大学和康奈尔大学的研究人员创建了一个机器 学习算法，预测一个人写的下一篇评论是否会被标记为喷子。 算法规则包括用户最后一篇帖子的时间戳、最后一篇帖子是 否被标记，讨论中的上一篇帖子是否被标记，作者被标记帖

报道总能得到更广泛传播。在自相矛盾的证据面前，人们往 往首先罔顾事实，诉诸情绪，中立客观报道很难引起共鸣。 传言谣言几乎与人类历史同龄，随着互联网兴起和普及， 更加变得无处不在。2007 年 4 月 16 日，弗吉尼亚理工大学 发生枪击案。一个韩裔学生身穿防弹衣，携带两把手枪打死 32 人，最后举枪自杀。《芝加哥太阳报》率先曝料，称凶手 可能是中国留学生江伟恩。该报专栏作者麦克·斯尼德称， 这名 24 岁冷血杀手于 的时候，效果还不如那个谣言传播的更广。 哥伦比亚大学研究者开发出一款 Emergent 谣言传播跟 踪工具，可记录每一个传言及质疑或辟谣的分享次数。从统 计数据看，大部分谣言获得的分享次数都要比辟谣的信息高 得多。如，网传佛罗里达州一女子植入第三个胸，假消息迅 速获得 18.8 万次分享。尽管媒体随后澄清是假新闻，但辟 谣消息获得的分享数不足谣言的 1/3。再如，武汉大学互联 网科学研究中心对马航失联传言进行统计，梳理了 置于均衡信息环境，让受众及时接收并相信知情者发布的更 正信息。 作者介绍：张鸫，原中央机关网络舆情处长，人民日报 社传播内容认知全国重点实验室资深研究员、乌镇数字文明 研究院特聘研究员、华南师范大学专业学位硕士生校外导师。 曾以笔名出版《操纵：大数据时代的全球舆论战》《效应： 舆论传播的 100 个定律》《监视帝国：棱镜掌握一切》《2020： 世界网络大战》《中国输不起的网络战争》《网络战争：互联

月，国务院新闻办公室给中央的《请示报 告》中指出，那时中国的互联网络主要有 5 个，中科院高能 所的 IHEP、中科院计算机网络信息中心的 NCFC、国家教委 主办设在清华大学的 CERNET、邮电部主建的公用计算机网 CHINANET 以及北京化工大学与日本东京理科大学合作建立的 Internet 节点，他们都在各自发展用户。除此之外，还 有 89 条涉外单位和外企直通国外的 DDN 专线，这些专线经 过改造随时

大量资金开展知识生产，吸引了全球众多优秀人 才，创办了大量知名大学和科研机构，构建起完 备的知识生产和自主创新体系，推出大量影响深 远的研究成果，迅速成为社会科学和自然科学领 域的“超级大国”。时至今日，美国和西方国家 在全球学术研究和出版、知识传播、技术创新等 领域依然占据主导性地位，借助对知识产权、评 价标准的垄断，对非西方国家知识进行系统性排 斥。牛津大学教授西蒙·马金森认为，美国在高 等教育、学术研究和知识生产上行使着非同寻常 等教育、学术研究和知识生产上行使着非同寻常 的全球霸权，“知识和大学教育的美国化维持着 13思想殖民——美国认知战的手段、根源及国际危害 一个美国化的全球社会，并在一个相互促进的进 程中支持美国在全球政治经济、文化生活和军事 上的主导地位”。 ① 1.5美国实施思想殖民的深层动因 美国思想殖民旨在巩固文化强权，以此强化 政治霸权、维护经济特权。 巩固文化强权。思想殖民在全球范围拓展美 。 脸书、X、优兔、照片墙等全球最受欢迎的社交 媒体平台，为美国用算法和谎言编织信息茧房、 31思想殖民——美国认知战的手段、根源及国际危害 塑造用户认知提供了新空间新便利。据美国南加 州大学的一份报告显示，在 X 平台上，有 9%— 15%的活跃用户是社交机器人，制造和传播大量 虚假信息。 2.5内容体系：多种形态隐性渗透 美国资本在全球各地组建跨国企业、掌握学 术机构、操控媒体集团，把美国生活方式、价值

息轰炸时，会有一种保护自己的既有观点不受外来信息的侵 害的本能。慢慢的，逆火效应就会让你对自己的怀疑越来越 少，最终把自己的看法当做是理所当然的事实。 2006 年，密西根大学的布伦丹•奈恩和乔治亚州立大学 的杰森•雷夫勒进行了一项实验。他们伪造了几则政治新闻， 请来一批实验对象，先请他们阅读伪造的新闻，再阅读真实 消息。例如，第一则新闻是美军在伊拉克发现大规模杀伤性 武器；而第