演讲摘要：AI的“吗哪”与“口头禅”

演讲者罗德尼·布鲁克斯，作为机器人学和AI领域的传奇人物及创业家，以其丰富的历史经验，对生成式AI的现状提出了一个清醒而批判性的分析。

他将演讲主题定为“意想不到的‘吗哪’与‘口头禅’”(Unexpected Manna Mantra)，旨在区分AI带来的真正价值（吗哪）和围绕它的炒作与重复的陈词滥调（口头禅）。

布鲁克斯认为，LLMs的出现动摇了AI领域一些长期存在的核心思想，这些思想曾是教科书里的金科玉律：

• 图灵测试 (1950) 已蒸发： 过去，图灵测试被视为判断机器智能的黄金标准。现在，LLMs可以轻易通过，使得这个测试变得无关紧要。我们更关心它“能”说什么，而不是它“确实”说了什么。
• 塞尔的中文房间 (1980) 成为现实： 这个思想实验——一个人在房间里根据规则手册操纵他不理解的汉字——完美描述了LLMs的现状：它们在没有真正理解语义的情况下进行符号操作。
• 乔姆斯基的普遍语法 (1960s) 受到挑战： 乔姆斯基理论认为人类大脑中存在先天的、专用于语言的机制。然而，LLMs在没有这种机制的情况下，仅通过海量数据就学会了多种语言，这对语言学的基本假设提出了疑问。

布鲁克斯引用他自己总结的“预测AI未来的七宗罪”，指出当前的AI热潮并非首次，而是历史上多次炒作周期的重演（例如，神经网络已是第六次浪潮）。

• 指数主义（Exponentialism）： 受摩尔定律影响，人们倾向于错误地认为所有技术都会呈指数级增长。然而，现实是S型曲线，增长终将放缓。
• 与魔法无异（Indistinguishable from Magic）： 根据阿瑟·克拉克的第三定律，任何足够先进的技术都与魔法无异。当我们不理解其工作原理时，就容易对其能力产生不切实际的幻想。
• 炒作导致傲慢，傲慢导致短视（Hype → Hubris → Conceits）：
  • 炒作 (Hype): 对一项技术（如自动驾驶）产生巨大期望。
  • 傲慢 (Hubris): 认为我们能够轻易实现它。
  • 短视 (Conceits): 产生错误的核心设想。例如，自动驾驶的 conceit 是“一对一替换人类司机”，而忽略了改变道路基础设施等更实际的方案，最终导致项目停滞和资源浪费。

布鲁克斯从学术界和产业界两个角度表达了他的忧虑：

• 学术界： 研究人员可能会被“闪亮的新事物”吸引，放弃了在原有领域即将取得突破的研究，导致数十年积累的工作被浪费。
• 产业界： 风险投资涌向高利润的（看似的）生成式AI，而忽略了与物理世界紧密相关的、同样重要的领域，如能源、农业科技、医疗设备和机器人技术。这可能导致整整一代工程师忘记了其他形式的软件和AI。

无论你是探索者还是应用者，都应审视自己的动机与恐惧，特别是以下两种：

• FOMO (Fear Of Missing Out): 害怕错过机会。这是驱动炒作的主要动力。
• FOBAWTPALSL (Fear Of Being A Wimpy Techno-Pessimist And Looking Stupid Later): 害怕因唱衰技术而在未来被证明是错的、显得愚蠢。这正是法国数学家帕斯卡关于信仰上帝的“赌注”论的现代科技版。

他的核心建议是：保持冷静，努力工作，不要被傲慢和短视所蒙蔽。