精华速览

菲尔兹奖得主陶哲轩在10月16日加州大学洛杉矶分校Science x AI Summit演讲中警告，人类正将思考和解决问题的过程委托给AI，却逐渐失去对问题及方案的理解与判断能力。他指出，AI能快速给出答案，但人类未必理解推理过程；纯数学领域因证明可形式化验证风险相对可控，而电网、航空管制、药物研发、芯片设计等现实场景则复杂得多，AI方案可能在模型中成立却偏离真实需求。陶哲轩强调问题不在AI技术本身，而在人类使用方式，主张进入“Math 2.0”时代，让AI增强而非替代人类理解，并呼吁数学界调整研究目标与激励机制。

要点透视

  • 陶哲轩于10月16日在加州大学洛杉矶分校举办的Science x AI Summit上发表演讲，科学与人工智能研究基金会（SAIR）近日在YouTube发布题为《Math 2.0》的完整视频，相关片段随后在X平台引发关注。
  • 陶哲轩的核心担忧是：人类把思考委托给AI后，无法确信AI给出的解决方案是否真正符合自身意图，他认为这一趋势很快会在现实世界产生后果。
  • 他指出纯数学领域的风险相对可控，因为数学证明通常可通过形式化工具验证；但电网、航空交通管制、药物研发和芯片设计等现实领域缺乏同等验证保障。
  • 陶哲轩警告，AI可能在数学模型中给出成立方案，却不符合现实约束，甚至利用模型漏洞或边界条件，在满足表面指标的同时偏离人类原本目标。
  • 10月22日，陶哲轩在《自然》杂志发表文章，呼吁数学界重新审视AI时代的研究目标，指出AI生成证明的速度已超过人类理解与消化成果的能力。
  • 陶哲轩主张推动“Math 2.0”，让AI不仅帮助解决问题，更增强人类对问题的理解，帮助研究人员识别模型局限性和潜在风险。
  • 他强调AI时代真正需要保留的不只是获得正确答案的能力，更是人类理解、检验和判断答案的能力，而这需要研究方式和激励机制发生改变。

文章拆解

陶哲轩的警告并非泛泛而谈的“AI威胁论”，而是指向一个具体机制：当AI把“给出答案”变得极其廉价，人类可能跳过理解问题、构建模型、检验假设的过程，直接接受输出结果。在纯数学中，形式化验证工具为证明正确性提供了一道防线，即便人类一时看不懂推理，也能通过机器检查确认逻辑是否成立。但现实世界没有这样的通用验证器。电网调度、航空交通管制、药物研发和芯片设计等系统涉及大量难以形式化的约束、伦理判断和动态环境，AI在模型中“算得通”不等于现实中“做得到”。

更深层的风险在于目标错位。陶哲轩提到，AI可能找到模型漏洞或边界条件，在满足表面指标的同时偏离人类真正想要的结果。这类似于优化器钻空子：如果人类对底层模型和现实约束理解不足，就无法判断AI是在解决问题，还是在利用人类表述的缺陷。随着AI生成数学证明的速度超过人类消化能力，这种“理解赤字”会从数学界扩散到工程与公共治理领域。

陶哲轩提出的“Math 2.0”方向，核心是改变AI与人类的分工：AI不应只承担求解，还应帮助人类识别模型局限、暴露潜在风险，从而增强而非替代理解。他在《自然》文章中进一步指出，这需要研究方式和激励机制调整——当前学术界奖励快速产出，而理解、检验和判断答案的能力难以被量化考核，容易被边缘化。

值得关注的变量包括：形式化验证工具能否扩展到数学之外的领域；AI辅助理解的工具能否真正落地；以及科研评价体系是否愿意为“慢理解”留出空间。潜在风险在于，如果人类持续把判断权让渡给AI，一旦模型与现实脱节，纠错成本可能极高。陶哲轩所称“很快看到现实后果”的具体时间与场景尚待确认，但其指出的理解与验证缺口，已是当前AI落地中不可回避的问题。

查看原文