济论坛执行董事扎希迪表示：“这些错误和虚假信息加速传 播，将加剧以两极分化和不安全为特征的全球秩序和经济的 不确定性，各国领导人必须齐心协力应对这些挑战。”巴基 斯坦政治观察家哈立德称：“利用人工智能进行深度造假在 网络上的传播度迅速提升，可能引发错误信息的完美风暴。” 2024 年 1 月 21 日，美国新罕布什尔州共和党初选的前两天，数千名选民接到冒充拜登的机器人语音电话：“把你们的选 票留在 11 信息，就像机器人一样，一般以推销或传播某种信息为目的。 美国语音欺诈检测公司“静默”公司称，人工智能初创公司 “十一实验室（ElevenLabs）”的技术被用于制作冒充拜登的 机器人语音电话录音。“十一实验室”暂停了利用深度造假 技术发布信息的账号。1 月 23 日，特朗普宣布在新罕布什尔 州共和党初选获胜，有望连续第三次赢得共和党总统提名。 “假拜登来电”迅速成为美国媒体的热门话题也再度引发关 于人工智能深度伪造可能影响大选的讨论。美国联邦通信委

人工智能、深度伪造与政治选举（二） 二、深度伪造对政治选举的双刃剑效应伴随人类社会 进入数字化网络化智能化时代，技术既可以成为强大的工具， 也可以成为有力的武器。兰德公司《人工智能、深度造假与 虚假信息》报告还指出，深度伪造不仅会影响社会，还会影 响国家安全，可以操纵选举，可能会加剧社会分裂，降低对 机构和政府的信任，破坏新闻业和信息源的可信度。[1]如 今，全球民众都在注视着人工智能、深度伪造在干预政治选

以通过制造谣言、散布虚假信息、策划恶意攻击等手段，利用互联网舆论来扰乱 社会秩序，破坏社会稳定和司法公正。 首先，不法分子已学会通过制造谣言来煽动舆情，进而影响社会正常秩序。 他们可以编造虚假信息，故意误导公众，甚至是制造假新闻来达到自己的目的。 这样的行为不仅会引起公众的不满和不信任，更会使得公众对于真相的判断产生 偏差，从而加剧社会矛盾。 其次，不法分子已学会利用互联网舆论来策划恶意攻击，企图打击或者诋毁