国产大模型为蒸馏Claude而泄露机密 已引发国家网信办关注

寂静回声

据总部位于美国旧金山的科技媒体《The Information》9月22日援引知情人士的消息报导，国家互联网信息办公室（CAC）已派官员前往“深度求索”与“月之暗面”两家公司办公地点与其高管及员工面谈，以评估资料外泄的严重程度。
报导未透露知情人士的身份，据透露，监管部门已传唤了在Anthropic报告中被点名的全部七家中国AI公司的代表，而调查焦点很快锁定了“深度求索”与“月之暗面”。
这两家中国AI巨头公司及监管机构均未立即回应置评请求，调查仍在进行，尚未作出处罚决定。

本月稍早，Anthropic公司发布了一份名为“检测并应对AI滥用：2026年9月”的威胁情报报告。
其中指出，包括深度求索、月之暗面、阿里巴巴、智谱、MiniMax、小米与商汤科技在内的七家中国AI实验室，在未告知用户的情况下，将用户使用其聊天机器人产品时的查询请求，转发至美国公司的AI模型Claude进行处理。
之后，这些中国AI公司还利用Claude的回复作为训练数据，以此来“蒸馏”Claude的能力。
Anthropic表示，此种手法被称为“蒸馏”，即利用更为强大的AI模型所生成的资料，来提升自家AI系统的性能，训练自有软件。
报告中说：“转发的这些互动内容中包含了敏感信息，涉及个人用户、大型跨国公司以及与国家相关的各机构。……这些会话包含了用户的姓名、电子邮件地址、公司数据及其它敏感信息，涉及至少十几种语言。这些做法很可能违反了隐私法规以及这些公司自身的服务条款。”
报告中披露的信息涵盖了自2025年12月至2026年8月期间发现的“蒸馏”行为，交互总量约1.9亿次。其中“月之暗面”在5月至7月期间传输约2300万次，“深度求索”在7月份的14天内传输超过1210万次。

中政府担心，这些AI公司在利用美国公司先进AI模型的过程中，转发资料时可能已将涉及军事、警务、国防相关设施的监控画面与人员行踪分析等敏感资讯泄露给美方。
与Anthropic的报告聚焦其AI模型能力及输出结果被窃取不同，中方关注的是中国客户的查询资料在不知情时流向了美国服务器。
此次启动的调查恰逢美国总统川普与习即将会晤之际。此外，美中双方还正在讨论建立人工智能事件通报机制。
据报导，“深度求索”本周将就AI对国际安全造成的风险向联合国安理会作简报。“月之暗面”则正推进香港上市计划，相关调查属于必须披露事项。