人工智能动画散布虚假信息

寂静回声

3月17日，中国国际电视台(CGTN)利用人工智能在其英语频道栏目《先声夺人》(First Voice)中推出了一档新的动漫节目：《破碎的美国》(A Fractured America)。编者按写道：“针对美国民主事故频发的混乱局面，CGTN先声夺人栏目推出《破碎的美国》AI动画系列视频。”
这是官媒首次公开使用人工智能动漫技术来宣传反美言论。

第一集名为“罢工不断但真的有用吗？”(American Workers in Tumult)。这一集聚焦的是所谓“美国近期的大型罢工”，并探究其背后政治经济格局结构性失衡的深层次原因。“超过45.3万人站起来，手里拿着标语。从喧闹的城市街道到安静的酒店大堂，各行各业的工人都在罢工。所有这些都反映出美国收入不平等和工人纠纷的加剧”，视频说。
然而，美国近期并没有出现文内所谓45.3万人参加的罢工。《经济学人》杂志北京分社社长David Rennie指出，这是他第一次看到中国的官方电视台推出反美人工智能动画，然而“有趣的是他们在‘报道’一个并没发生过的美国罢工。”

第二集名为“‘吃人’的美国军工复合体”（Unmasking the real threat: America's military-industrial complex）,抨击美国国防部门及其合同企业在全球大发战争财。
第三集则是“美国梦还是美国幻影”（American Dream of American Mirage）,抨击了美国国内高通胀、种族矛盾、贫富不均等社会问题。

在3月17日，也就是首播日当天，编者按中写明了这是人工智能生成的动画，而此后CGTN修改了介绍，去掉了“AI”两个字。
德国马歇尔基金会科技与地缘政治团队负责人Lindsey Gorman说，《破碎的美国》这一动漫再次佐证使用人工智能来宣传恐惧或是担忧是多么容易。
“在技术层面上，这个系列视频完全可以使用传统的图形动画技术来完成，但人工智能会让大规模创建此类内容变得容易得多”，
Gorman同时也是一名量子物理学家和计算机科学家。

自由之家(Freedom House)科技与民主事务研究主任Allie Funk说，传播虚假信息是独裁国家控制社会的核心策略。
“生成人工智能的可负担性和可及性降低了进入虚假信息市场的门槛。任何有经济或政治动机的人都可以利用这项技术大规模制造虚假和误导性信息”，

中国国际电视台的这一系列动漫视频目前以每天一集的速度在CGTN网站的多个社交媒体平台推出，包括推特，脸书，油管(YouTube)，微信公众号平台等等。
德国马歇尔基金的Gorman说，CGTN的聚焦显然是反美宣传，利用财富不均等分裂主题制作动漫。这些主题可能引起其他人的共鸣，而在全球范围降低美国梦的愿景。
除了有利于独裁政权大规模传播虚假信息之外，人工智能还能够通过识别社交媒体平台上的用户喜好，而向他们推送更加特定的内容。
与此同时，Gorman指出，正如《破碎的美国》系列展示的那样，有了人工智能，CGTN可以在无需雇佣了解美国的人才的情况下，用流畅的英语来制作视频。
“人工智能使得这些（极权）政权可以在不需要了解对方语言和文化的条件下，制作出看起来真实可信的宣传材料”
世界经济论坛(World Economic Forum)在今年1月的一份报告中指出，由尖端人工智能产生的虚假和误导性信息是短期内全球范围的首要风险。
报告指出，诸如ChatGPT等生成式AI的蓬勃发展意味着动画制作人员不再需要专业知识，就能很容易的生成复杂的动画内容，这也意味着散布虚假信息再也不需要昂贵的投资和高额的人力物力成本。

早在2018年，新华社与搜狗合作，推出了两个全仿真智能合成主持人，一个播报英文，一个播报中文。两位智能合成主持人分别模仿的是著名新华社主持人张昭和邱浩。新华社在当时的文稿中说：“‘真人’主播一天工作8小时，但‘分身”’能够不知疲倦地工作24小时！…只要小编们将文本输入系统，TA们就能随时工作，并且一直工作下去…”
2019年，新华社宣布成立智能化编辑部。“以人工智能为基础，以人机协作为特征”进行工作，“旨在大幅提高新媒体产品创意创新能力和生产传播效率。”2020年，新华社宣称其制作了“全球首位3D版AI合成主播”。
自由之家在2023年的《全球网络自由报告》中指出，人工智能被用作压制网络自由的新状况。报告指出，中国政府大量投资人工智能企业，以确保这些公司为其统治服务。
中国国家网信办经过多年的尝试，已经能够通过算法、合成媒体和人工智能，对中国的网络环境进行严厉的审查。
报告指出，人工智能领域新的发明与创新让威权国家的政府可以进行更加精准的网络审查，而这样的审查还不容易被侦测到，从而降低了民众的反弹，同时也降低了那些当权者从事此事的政治成本。
根据这份报告，中国的网络自由程度连续九年排名全球倒数第一。

自由之家的Allie Funk说，利用人工智能大规模推动的虚假信息可能会破坏公众对民主进程的信任，导致活动人士进行自我审查，并使得有价值的报道被淹没。而在一些有分歧议题上带着强烈煽动情绪的报道也可能增加社会的两极分化。
这也使得规范人工智能的使用更加重要。Allie Funk说，民主国家的政府需要立法，对来自国内外的虚假信息进行监管。其中很重要的一点就是人工智能产品的设计、实验、使用和效果都需要受到透明且独立的监管。
她也指出，这是一个会一直存在的挑战，也需要不断调整解决问题的方法。
“整个社会都需要调动起来，包括支持独立的在线媒体，为普通人提供识别虚假或误导性信息所需的工具，资助公民教育和数字素养计划，以帮助人们驾驭复杂的媒体环境”，她说。