大西洋月刊：人工智能是一场大型集体错觉事件

寂静回声

八月的一个周一下午，我正在网上观看一名前有线电视新闻主播在Substack 平台上采访一个已故的少年。这名少年叫Joaquin Oliver，在佛罗里达州帕克兰市的玛乔丽·斯通曼·道格拉斯高中大规模枪击案中遇害。
他被生成式人工智能复活了，其声音和对话都是根据他的写作片段和家庭录像模仿生成的。动画效果很僵硬，模型的语速太快，有两次在试图表达兴奋时，音调急剧升高，发出了数字化的尖叫声。
我很好奇，究竟得有多少人同意这是个好主意，才让我们走到了今天这一步？看着这一切，我感觉自己快要疯了。

Jim Acosta，这位前美国有线电视新闻网（CNN）名人，正在主持这场采访。他似乎完全接受了这个设定，更增添了超现实的感觉：尽管互动如此怪异，他却一本正经地进行着。Acosta问了一些简单的问题，关于Oliver的兴趣以及他是如何去世的。
这个聊天机器人是在Oliver父母的全力配合下创建的，旨在倡导枪支管制。它的回答就像一份新闻稿：“我们需要为对话和连接创造安全的空间，确保每个人都感到被看见。”它还说出一些诸如“更多的善意和理解确实能带来改变”之类的陈词滥调。
在直播聊天中，我看到观众们和我一样，都在努力理解眼前发生的一切。“不知道该作何感想，”一个人写道。“天啊，这感觉太奇怪了，”另一个人说。还有人想到了他的家人，写道：“这一定非常艰难。”有人说出了我猜我们所有人都在想的话：“他本该活在这里的。”

Acosta的采访让人难以消化，正如人工智能时代许多事情都让人难以消化一样。我为Acosta感到恶心，他“把一个被谋杀的孩子变成了内容”，正如评论家Parker Molloy所说。
我也对那些科技公司感到愤怒，它们如今以产品的形式提供了一只“猴爪”【典故出自W. W. Jacobs的短篇小说，讲述了一个被施了魔法的猴爪能实现三个愿望，但每个愿望的实现都会带来可怕的、意想不到的灾难性后果。】，能够复活逝者。

当Oliver的父亲在后续交谈中告诉Acosta，Oliver“将开始拥有粉丝”时，我感到警惕，这预示着一个被谋杀儿童成为网红的时代。
但同时，我也理解Oliver父母的冲动，他们仍在消化巨大的悲痛，愿意尽一切力量来保留儿子的记忆，并从毫无意义的暴力中寻找意义。我怎么能去评判那种失落感呢？
Oliver的父亲告诉Acosta，他的妻子会连续几个小时与那个聊天机器人交谈。当我知道她喜欢听聊天机器人用她已故儿子的声音说“我爱你，妈妈”时，我又能做什么呢？
这次采访引发了一种在过去三年里变得异常熟悉的感觉。这是一种社会正奔向一个未来的沉沦感，这个未来感觉冷冰冰、构思草率，却又被人们漫不经心地接受了。我们真的要这么做吗？谁觉得这是个好主意？
从这个意义上说，Acosta的采访只是一个集体错觉的产物。我意识到，这种由震惊、困惑和矛盾交织而成的奇特感受，正是生成式人工智能时代的决定性情绪。在这场炒作进行了三年之后，人工智能一个持久的文化影响似乎就是让人们感觉自己快要疯了。

在接受Acosta采访时，Oliver的父亲提到，家人计划继续开发这个机器人。“任何一个硅谷的技术人员都会说，‘这只是人工智能的开始，’”他说，“‘这也只是我们正在做的事情的开始。’”
仅仅是开始。或许你也听过这种说法。“欢迎来到 ChatGPT 时代。”“生成式人工智能革命。”“人类的新纪元，”正如马克·扎克伯格最近所说。我们被告知，这是计算领域大爆炸前的时刻——一切都将改变；你等着瞧。上帝很可能就在机器之中。硅谷发明了一种新的心智。这是一个值得庆贺的时刻——应该加倍投入。如果你在工作中不用它，那你就是个傻瓜。是时候加速了。
我们能活在当下是何其幸运！是的，事情是有点怪。但你又能期待什么呢？你正畅游在机器认知的原始汤中，难免会有成长的阵痛和附带的伤害。
生活在这样一个有趣的时代，意味着要与“Mecha Hitler Grok【这是作者创造的一个复合词，结合了“机械”（Mecha）、“希特勒”（Hitler）和“Grok”（埃隆·马斯克旗下xAI公司开发的一个AI模型名称）。】之类的东西抗衡，要从法西斯宣传的垃圾洪流中饮水。

这意味着爷爷会在“虾耶稣”（Shrimp Jesus）【指由AI生成的各种怪诞、不合逻辑的图像，这些图像在社交媒体上广泛传播。】的渲染图下留下困惑的脸书评论，或者更糟，迷上一个轻浮的人工智能聊天机器人。
这个未来很可能需要一份新的社会契约。但同时，也出现了人工智能复仇式色情和“一键脱衣”应用，这些应用利用人工智能脱掉女性和儿童的衣服，还有吞噬了人类全部创造性产出的大语言模型。
我们被告知，从这片泥潭中，一个“通用人工智能”终将出现，它要么为人类发展提供涡轮增压，要么……嗯，可能会毁灭人类。但你看：每个用着 T-Mobile套餐的傻瓜，口袋里的原始智能很快将超过世界上有史以来的任何智能。保持信念。

那些正在构建这项技术的人，其惯用手法就是夸夸其谈。风险投资家（马克·安德森在 X 平台（前身为推特）上引用一些人的推文，这些人激动地发表着诸如“我认识的每个人都相信，最多几年，劳动力的价值将彻底崩溃，资本将以失控的循环方式向所有者积聚——基本上是马克思最坏的噩梦/幻想”之类的言论。如果你把他们当真，又怎能不疯掉呢？的确，生成式人工智能的众多产物之一似乎就是一种“精神病即服务”（psychosis-as-a-service）。
如果你真的“吃了通用人工智能的药丸”（AGI-pilled）——这是一个用来形容那些相信机器超级智能即将来临的人的术语，那么理性的反应可能包括建个地堡、辞掉工作，然后投身于这项事业。
正如我的同事今年早些时候与这个群体相处后所写，对于这些真正的信徒来说，政治、经济和时事基本上都无关紧要。如果你相信我们所知的世界即将永远改变，那么很难再去关心关税、威权主义的侵蚀或是拿个学位了。
这种言论在下游产生了令人抓狂的影响。有人在与聊天机器人建立关系后，被强制送医或出现精神崩溃。这些故事本身已经形成了一个“家庭作坊”式产业，每一个故事都暗示着，谄媚的模型、将虚假信息当作事实呈现的方式，以及这些工具模仿人类对话的能力，共同作用，导致脆弱的用户认为他们与机器建立了人类关系。
像 r/MyBoyfriendIsAI 这样的 Reddit 子版块（人们在其中描述自己与聊天机器人的关系）或许不能代表大多数用户，但浏览这些帖子时，很难不感觉到，在生成式人工智能时代仅仅几年之后，这些工具已经对那些可能不理解自己正在与什么互动的人产生了强大的控制力。

在这一切发生的同时，年轻人正在经历一种作家Kyla Scanlon称之为“可预测的进步的终结”（End of Predictable Progress）的现象。广义上说，该理论认为，通往稳定经济生活的传统路径已不再可靠。
“你会想：我赖以踏上职业阶梯最底层的那些工作，将被人工智能夺走，”她最近告诉记者埃兹拉·克莱因（Ezra Klein）。“我认为这制造了一种恐惧元素。”她所描述的不稳定感是生成式人工智能时代的标志。目前尚不清楚到底有多少入门级工作会被人工智能取代，但那些热情高涨的首席执行官和公司传递的信息听起来确实很可怕。
今年五月，Anthropic 公司的 CEO Dario Amodei警告说，人工智能可能会消灭一半的入门级白领工作。六月，Salesforce 公司的 CEO Marc Benioff暗示，公司高达50%的工作正由人工智能完成。
目前，关于人工智能是否对就业产生有意义的影响，存在着相互矛盾的理论。但真实影响和感知影响是两回事。最近一项昆尼皮亚克（Quinnipiac）民意调查发现，“就日常生活而言”，44%的受访美国人认为人工智能的弊大于利。
调查发现，美国人相信这项技术会导致失业——但许多工人似乎对自己的工作稳定性充满信心。许多人根本不知道该对人工智能得出什么结论，但又不可能不去思考它。
OpenAI 的 CEO 萨姆·奥尔特曼也表现出了他自己的不确定性。在六月发表的一篇题为《温和的奇点》（The Gentle Singularity）的博客文章中，奥尔特曼认为，“我们已经越过了事件视界（event horizon）”，接近于构建数字超级智能，并且“在某种重大意义上，ChatGPT 已经比任何活过的人类都更强大。”
他使用了人工智能支持者经典的夸张言辞，认为“2030年代很可能将与以往任何时代都截然不同。”然而，这篇文章也从他之前惯用的那种不可避免的“革命”的戏剧性言论中略微后退了一步。
“在最重要的方面，2030年代可能并不会有太大不同，”他写道。“人们仍然会爱他们的家人，表达他们的创造力，玩游戏，在湖里游泳”，这是对我们肉体形态持久性的俏皮致意，算是一种小小的安慰。奥尔特曼是一位熟练的营销人员，这篇文章可能只是为了向那些有点害怕的人展示一个更友好、更容易接受的未来。

但对这篇文章的另一种解读是，面对这项技术潜在的进步局限，奥尔特曼在稍微留有余地。早些时候，OpenAI 发布了 GPT-5，评价褒贬不一。奥尔特曼曾承诺它在任何主题上都具有“博士水平”（Ph.D.-level）的智能。
但 GPT-5 的早期测试揭示了各种各样的轶事性例子，显示其对查询的回答很草率，包括幻觉、简单的算术错误和基本推理失败。一些曾迷恋于该软件先前版本的重度用户对这次更新感到愤怒甚至失落。奥尔特曼特别强调了产品的可用性和设计：结合“温和的奇点”一文来看，GPT-5 似乎承认了超级智能仍只是一个概念。

然而，扮演哲学家的戏码仍在继续。在发布前不久，奥尔特曼出现在喜剧演员Theo Von的热门播客上。讨论转向了奥尔特曼惯于涉足的深思熟虑的科幻领域。在某个时刻，两人有如下对话：

萨姆·奥尔特曼：我确实猜想，随着时间的推移，世界大部分地区将被数据中心覆盖。
Theo Von：你真这么认为？
奥尔特曼：但我不知道，因为也许我们会把它们放在太空里。比如，也许我们在太阳系周围建一个巨大的戴森球（Dyson sphere），然后说，“嘿，把这些东西放在地球上其实毫无意义。”
奥尔特曼：我希望我能给你更具体的答案，但，我们也是在摸索着前进。

一个正在开车去杂货店路上的人，听到这样的对话，究竟该作何感想？当然，有一群人会觉得用数据中心覆盖地球或大气层非常令人兴奋。但我们这些不这么想的人呢？
奥尔特曼和人工智能领域其他次要人物经常这样说话，对未来做出极端、不容置疑的宣告，听起来就像孩子们在玩战略游戏。这不是商业计划，而是白日梦。

同样令人迷失方向的是，这些愿景和说教正在推动现实世界的变革。即使你个人不相信这场炒作，你也生活在一个已经围绕人工智能重塑的经济体中。
《华尔街日报》最近的一份报告估计，大型科技公司在2025年的信息技术基础设施上的支出“正起到一种私营部门经济刺激计划的作用”，科技七雄（Magnificent Seven）——Meta、Alphabet、微软、亚马逊、苹果、英伟达和特斯拉——最近几个月在资本支出上花费了超过1000亿美元。这种对单一技术领域集中投资的另一面是巨大的经济脆弱性，可能导致金融危机。
这就是人工智能时代的缩影。换个角度看，你可以将其描绘成世界经济的救星。再仔细看，它又像是埋在全球金融体系中的一颗滴答作响的定时炸弹。对话总是两极分化。保持信念。
不可否认，生成式人工智能工具是变革性的，因为它们的普及已从根本上改变了经济和数字世界。社交网络和整个互联网充斥着人工智能垃圾（AI slop）和合成文本。Spotify 和 YouTube 上充满了人工智能生成的歌曲和视频，其中一些获得了数百万的播放量。
机器人无处不在，它们对数字生活产生了深刻、奇特而有意义的影响。有时它们是种族主义者。很多时候它们是马屁精。其他时候，它们会召唤恶魔。谷歌的人工智能摘要正在导致网站流量暴跌，并重塑网络。
在学校里，ChatGPT 不仅扼杀了学生论文，它似乎还威胁着人类认知的一些基本组成部分。一些研究认为，聊天机器人正在同质化人们的说话方式。无论如何，它们似乎颠覆了互联网作为一个可以自行导航的无穷信息档案库的承诺。“自己做研究”（Do your own research）在短时间内变成了“得到一个标准答案”（Get one canonical answer）。

有时这很有用：一个机器人巧妙地总结了一份复杂的 PDF 文档。根据大多数人的说法，它们确实是很有用的编码工具。孩子们用它们来制作有用的学习指南。它们擅长通过生成苍白无力的邮件来为你节省时间。
同时，一个医疗保健聊天机器人编造了假的身体部位。美国食品药品监督管理局引入了一款生成式人工智能工具，以帮助加速药品和医疗设备的审批——但该工具不断编造虚假研究。浏览人工智能新闻头条，就像每天都在试图确定社会为这些所谓的生产力效益付出了多大代价。
例如，有了一款新的支持谷歌 Gemini 的智能手表，你可以让机器人“用开玩笑的语气告诉我的配偶我晚到15分钟”，而不是自己去沟通。紧接着又有新闻报道一项研究，表明 ChatGPT 的重度用户可能正在因使用该工具而累积“认知负债”。

近几个月来，我被这一切搞得无所适从：一项我在某些情况下觉得有用的技术，却被当作通往意识的门户；一个亿万富翁自信地宣称，他通过与聊天机器人交谈，即将取得物理学突破；一种“搞钱至上”（get that bag）的文化，似乎不怎么考虑后果就接受了这些工具；还有这种无处不在的公共讨论。我到处都能听到闲聊——农贸市场的菜贩半开玩笑地说人工智能种不出蓝莓；机场的一位女士告诉朋友她让 ChatGPT 推荐化妆品。
这些对话大多信息不足，谈论者多年来被炒作轰炸，但也目睹了其中一些工具融入他们自己或他们认识的人的生活。他们算不上兴奋或厌倦，但几乎所有人都似乎无奈地接受了将与这些工具共度未来。记住——这仅仅是开始……对吧？
这是这项技术的创造者和支持者给我们的语言，这意味着，将技术置于未来背景下的讨论，都是在他们的语境下进行的。这是一个错误，或许也是为什么那么多人感到迷惘的原因。

最近，我一直被一个不同的问题所困扰：如果生成式人工智能既不是机器中的上帝，也不是“雾件”（vaporware）【科技行业术语，指那些被宣传得天花乱坠，但迟迟未能发布甚至从未打算发布的软件或硬件产品。】呢？如果它只是“足够好”，对许多人有用，但并非革命性呢？
目前，这些模型不会思考——它们预测并排列语言标记，以对查询提供看似合理的回答。几乎没有令人信服的证据表明，如果没有某种量子研究的飞跃，它们会进化。如果它们永远无法停止产生幻觉，也永远无法发展出驱动真正人类智能的那种创造性独创力呢？
模型“足够好”并不意味着这个行业会一夜崩溃，或者这项技术毫无用处（尽管有可能）。这项技术可能仍然会出色地让我们的教育体系变得无关紧要，让一代人依赖于从聊天机器人那里获取答案，而不是自己思考，却没有得到承诺中能够发明癌症疗法的有意识的机器人的好处。
“足够好”让我夜不能寐。因为“足够好”很可能意味着，在为时已晚之前，没有足够多的人认识到真正被构建的是什么，以及被牺牲的是什么。
如果真正的末日情景是，我们污染了互联网和地球，重塑了我们的经济并让自己债台高筑，把我们大部分的思维外包出去，重新调整我们的地缘政治和文化，并为一项永远无法接近其宏伟承诺的技术无休止地争吵，那该怎么办？
如果我们花费太多时间等待和争论，以至于未能集中精力解决此时此地存在的问题，那该怎么办？那将是一场悲剧——一场集体错觉的产物。这个情景最让我害怕的是，它是唯一听起来不那么疯狂的那个。