国产防火墙害了国产AI大模型

寂静回声

在人工智能的发展中，高品质、具多样性且由人类产生的数据，一直被视为模型进步的基础。
然而，随著AI生成内容在网络上快速扩散，一项全球性隐忧逐渐浮现：当模型开始反复使用AI生成内容进行训练，系统表现可能出现明显退化。

美国资深国防分析专家、退役陆军上校Joe Buccino明确指出，这种现象被称为“模型坍塌”（Model Collapse）。
当模型不断吞噬自身产出的合成数据，它会逐渐丧失对细节与逻辑的掌握，不仅放大既有偏误，甚至会出现与现实脱节的情况。

在资讯相对开放的社会中，尽管同样面临AI生成内容泛滥所带来的干扰，但来自记者、研究人员以及一般使用者的原始内容，仍能持续提供多元且相对可靠的“人类讯号”，在一定程度上有助于缓解模型坍塌的风险。
然而，在我国，由于内容审查与资讯过滤机制高度集中，这类人类原始讯号的来源与多样性可能受到压缩，使相关风险更为凸显。

由官方自1990年代末逐步建立的网路审查与管控系统（俗称“防火长城”），已发展为一套高度制度化的资讯过滤机制。
该系统最初目的在于强化社会与舆论管控，但在人工智能时代，其对资讯流动的筛选作用，也间接影响AI模型可取得的训练数据品质与多样性，进一步放大前述的模型坍塌问题。
这种影响不仅体现在资讯可得性的限制，更反映在训练大型语言模型（所依赖的数据结构之中：
1.在高度审查的网络环境中，涉及政府批评、敏感历史事件（如文化大革命）或人权议题的内容，往往受到严格限制或难以取得。
这使得相关数据在训练语料中的比例偏低，形成结构性的资讯缺口。
2.训练资料中相当部分来自官方媒体或经过审查的内容，其叙事框架与用语风格趋于一致。
当AI模型长期在此类语料中进行学习，可能倾向生成风格保守、立场单一的回应，降低对复杂议题的解析能力。
在这样的数据环境下，AI系统的表现会出现结构性限制。
其在处理多元观点、矛盾资讯与高度不确定议题时，较难进行跨立场整合与深度推理。
这也部分解释了，为何部分国产AI系统在面对敏感或具争议性的问题时，回应往往倾向接近官方论述，而较少呈现开放式或批判性分析。

近年积极将人工智能导入经济预测、地缘政治分析及与公共治理，试图以技术手段提升决策效率与控制能力。
然而，Buccino指出，若AI系统所依赖的数据本身已经过高度筛选，其输出结果可能更接近既有立场的延伸，而非对现实的全面反映。
在此情境下，AI更像是一种“政治镜像”：反映的是政策预设与叙事框架，而非外部世界的复杂性。
这会带来数个层面的风险：
若模型缺乏对制裁、市场冲击或历史经验的完整数据，其模拟结果可能过度乐观或失真，影响政策判断。
当AI难以纳入多元国际观点与真实舆情，其政策建议可能流于单一视角，增加误判外部局势的风险。比如8爷说的，国产大模型说不清楚伊朗问题。

在这一层意义上，“模型坍塌”不仅是技术问题，也可能演变为决策风险。
当系统长期在受限资讯中自我强化，其输出将逐渐偏离外部现实，形成封闭的认知循环。比如皇上的愚蠢。

部分观点认为，在高度审查与资讯受限的环境下，中国本土AI发展可能面临资料来源与多样性不足的挑战，进而影响模型长期演进的品质。
在此背景下，对外部先进技术的依赖程度自然提高。
其中，“模型蒸馏”（distillation）原本是机器学习中常见的技术，用于将大型模型的知识压缩至较小模型，以提升效率与部署弹性。
然而，在跨国竞争与科技管制加剧的情境下，若相关技术取得涉及未经授权的方式，便可能引发知识产权与国安层面的争议。

面对国产大模型对美国大模型的蒸馏问题，Buccino向华府提出了清晰的建议：保护数据的完整性已不再是技术问题，而是国防迫切任务。
为了保持领先，美国必须将高品质人类数据视为关键资产。
支持独立新闻机构、学术研究与开放资料库建设，同时推动AI生成内容的标注与溯源机制，以降低训练数据被污染的风险。
开放社会在资讯流通与观点竞争上的优势，有助于持续产出高品质、多样化的“人类讯号”，从而降低模型坍塌与退化的可能性。
这种制度性条件，本身即构成对抗“模型坍塌”的重要防线。