25 位菲尔兹奖得主联合警告“AI 在数学领域严重错位”,邓煜调侃要退休回家写百合小说
当地时间 9 月 11 日,包括陶哲轩、邓煜、彼得·舒尔茨(Peter Scholze)在内的 25 位菲尔兹奖得主作为最初签署人,联合发布了一份名为《人工智能在数学中的严重错位》(A Severe Misalignment of AI in Mathematics)的声明,警示 AI 企业与数学界之间正出现“严重错位”。
声明指出,近几个月来,大语言模型在数学能力上取得显著进步,能解决许多数学领域长期悬而未决的重大问题。然而,AI 公司把数学问题当作基准来推动解决,这对数学科学和数学界均构成危害。AI 企业的目标与数学界的目标存在严重错位,这属于影响其他科学、创意职业乃至整个社会的更广泛对齐问题的一部分。
数学研究旨在理解形状、数字及自然现象的基本结构。经过数代积累,它已形成庞大而复杂的思想、方法、抽象及其他工具体系,用于深入把握数学领域。反过来,现代技术与科学也依赖于这些数学工具。
数学界在许多方面如同人类社会的缩影。它由采用各种不同方法的个体组成,并以核心价值观为纽带。对于学生,数学家常提出问题,其核心目的是培养技能,使他们在研究及其他领域获得优势。数学家通过讲座、私下讨论和细致写作来传播成果,将其与他人先前想法相联结。这些过程通常需要时间,且依赖于人与人之间的互动。
声明提到,近几个月来,AI 在解决重大数学问题上的成功甚至登上头条。但解决问题仅是达成概念理解和洞察这一主要目标的工具与媒介。在 AI 领域若忽视这一点,工具可能偏离主要目标。事实上,越来越快的“真假”陈述大规模生产,可能会破坏肥沃的土壤,而非赋予新思想以生命力。
这些解决方案常仓促发布,缺乏时间进行正式写作,也未隔离新方法、新想法或引用他人相关工作。与所有创意职业一样,这引发了严重的署名与抄袭问题。此外,若没有愿意负责其发展并融入数学经典的数学家,AI 构思的想法永远无法完全实现,数学家之间关键的人类传递链也将丧失。
声明强调,我们正目睹对智力工作的普遍威胁,AI 的使用结果与其初衷之间存在不一致。在许多领域和活动中,多年培训传统上不仅产出最终答案或成果,还能培养理解力及提出新问题和新想法的能力。然而,基于大量人类早期成果,AI 系统越来越能直接生成这些成果,导致目标不再一致。数学界当前面临的问题与其它科学和创意职业类似,也反映了全人类可能面临的问题:如何确保在 AI 改变工作方式时,我们不会遗忘这项工作的初衷。
AI 有潜力提升和加速真正的数学学习与理解。作为一门职业,数学需要以多种方式适应这些变化。但这些变化最终有利于该领域还是产生破坏性影响,很大程度上取决于掌控这项新技术的人类的决策。声明呼吁,必须在数学界、开发这些技术的公司以及更广泛的社会中,在许多其他智力工作形式面临类似问题时,抓紧进行解决。
IT之家附 25 位署名的菲尔兹奖得主名单:
- 阿图尔·阿维拉(Artur Avila,2014 菲尔兹奖)
- 曼祖尔·巴尔戈瓦(Manjul Bhargava,2014 菲尔兹奖)
- 考切尔·比尔卡尔(Caucher Birkar,2018 菲尔兹奖)
- 皮埃尔·德利涅(Pierre Deligne,1978 菲尔兹奖)
- 邓煜(Yu Deng,2026 菲尔兹奖)
- 西蒙·唐纳森(Simon Donaldson,1986 菲尔兹奖)
- 雨果·迪米尼-科潘(Hugo Duminil-Copin,2022 菲尔兹奖)
- 阿莱西奥·菲加利(Alessio Figalli,2018 菲尔兹奖)
- 马丁·海尔(Martin Hairer,2014 菲尔兹奖)
- 许埈珥(jùn ěr)(June Huh,韩裔美籍,2022 菲尔兹奖)
- 马克西姆·孔采维奇(Maxim Kontsevich,1998 菲尔兹奖)
- 埃隆·林登施特劳斯(Elon Lindenstrauss,2010 菲尔兹奖)
- 皮埃尔-路易·利翁(Pierre-Louis Lions,1994 菲尔兹奖)
- 詹姆斯·梅纳德(James Maynard,2022 菲尔兹奖)
- 柯蒂斯·麦克马伦(Curtis McMullen,1998 菲尔兹奖)
- 森重文(Shigefumi Mori,日本数学家,1990 菲尔兹奖)
- 吴宝珠(Ngô Bảo Châu,越南数学家,2010 菲尔兹奖)
- 安德烈·奥昆科夫(Andrei Okounkov,2006 菲尔兹奖)
- 彼得·朔尔策(Peter Scholze,2018 菲尔兹奖)
- 斯坦尼斯拉夫·斯米尔诺夫(Stanislav Smirnov,2010 菲尔兹奖)
- 陶哲轩(Terence Tao,2006 菲尔兹奖)
- 玛丽娜·维亚佐夫斯卡(Maryna Viazovska,2022 菲尔兹奖)
- 塞德里克·维拉尼(Cédric Villani,2010 菲尔兹奖)
- 文德林·维尔纳(Wendelin Werner,2006 菲尔兹奖)
- 叶菲姆·泽尔曼诺夫(Efim Zelmanov,1994 菲尔兹奖)
另据南华早报报道,菲尔兹奖得主邓煜日前在朋友圈发文称,最近他接触到的数学界弥漫着一股浮躁不安的氛围。
邓煜表示,他真的很好奇 AI 的上限到底在哪里,如果 AGI 能解决数学领域广泛的问题,有生之年能见证神迹那也不亏了,接下来无非回家好好写百合小说。
邓煜回应南华早报称:“目前并没有写百合小说。那句话完全是开玩笑的。”“我不认为 AI 能发展到解决所有数学问题的程度,至少不是我在帖子中提到的那些问题。”在数学界讨论这一话题时,爱游戏娱乐入口也关注到相关动态。