大模型AI本质上是个“速冻产品

寂静回声

谷歌DeepMind的创始人Demis Hassabis自己揭了AI的老底。今天的大模型AI，本质上是个“速冻产品”。训练完成，能力就定格了。
像个一次性相机，拍完就不能再改。它无法像人一样，从现实世界里持续学习、自我进化。

你希望它能在线学习，根据你的任务进行个性化调整。但它做不到。
大模型AI的智能是“锯齿状”的。在某些高精尖问题上，表现惊人。
但在另外一些简单问题上，却错得离谱。就像一个围棋高手，却不会玩跳棋。这正常吗？

Hassabis认为，真正通用的智能系统，不该有这种“锯齿感”。
一个数学专家，绝不会在简单问题上犯错。
那么，为什么现在的大模型AI会这样？是因为算法设计的根本缺陷，还是训练数据本身就充满了偏见和矛盾？

科技巨头们热衷于宣传AI的巨大突破，达沃斯论坛上的精英们也在描绘AI驱动的未来世界。他们很少谈论这些根本性的局限。
这些“锯齿”会不会成为被利用的漏洞？当一个系统强大到可以影响经济决策、甚至军事判断时，它的“弱智”时刻会带来什么后果？

Hassabis还提到了真正的创造力。他说，提出一个正确的问题，比解决一个猜想更难。
现在的大模型AI，只是个高效的解题工具。它没有品味，没有洞察力，更提不出像爱因斯坦那样的革命性思想。
如果把AI的知识库截止到1911年，它能自己搞出广义相对论吗？答案显然是否定的。

那么，我们在期待的到底是“智能”，还是一个越来越强大的“计算器”？