1956年那个夏天的达特茅斯会议，约翰·麦卡锡、马文·明斯基、克劳德·香农和纳撒尼尔·罗切斯特等十位年轻学者围坐在一起，他们信心满满地预言："我们认为，学习的每一个方面或智能的任何特征，原则上都可以被精确描述，以至于可以制造一台机器来模拟它。"将近七十年过去了，这个预言的前半部分已经实现——我们确实制造出了能够模拟特定智能特征的机器；但后半部分，那台能够模拟"智能的任何特征"的通用机器，依然遥不可及。这，就是通用人工智能（Artificial General Intelligence，AGI）的故事。
什么是AGI？从定义到争议
通用人工智能（AGI）这个概念看似简单，实则充满了定义上的陷阱。最广为人知的定义来自马库斯·胡特（Marcus Hutter）的《通用人工智能理论》（Universal Artificial Intelligence, 2005），他将AGI描述为"在任意环境中都能最大化预期奖励的智能体"。更通俗地说，AGI是指具备与人类相当或超越人类的通用认知能力的机器——它能够像人类一样学习任何任务、理解任何概念、解决任何在其训练数据之外的问题。
但这个定义本身就引发了无数争议。OpenAI的创始团队之一、前首席科学家伊利亚·苏茨克弗（Ilya Sutskever）在2023年的一次访谈中提出了一个更精确的定义："AGI是一个能够完成所有经济价值任务的人工智能系统。"这个定义看似务实，却也暗含问题——什么算"经济价值任务"？是否包括情感陪伴、艺术创作、道德判断？
"智能的麻烦在于我们无法定义它，但我们认为自己知道它是什么。当我们看到它时，我们就能认出它。" —— 道格拉斯·霍夫斯塔特，《哥德尔、艾舍尔、巴赫》（1979）
DeepMind的创始人戴密斯·哈萨比斯（Demis Hassabis）则给出了一个更为技术化的定义。他在2023年5月的Google I/O演讲中将AGI定义为"能够完成几乎所有认知任务的系统，这些任务对人类来说在经济上有价值"。值得注意的是，他特意排除了纯粹的身体任务（如精密外科手术中的物理操作），强调AGI的核心是"认知通用性"。
📐AGI定义的谱系
强定义（认知主义）：AGI必须拥有与人类完全相同的认知架构，包括意识、自我意识和主观体验。代表人物：马文·明斯基。
中定义（功能主义）：AGI只需要在功能上等同于人类智能，不需要相同的内部机制。代表人物：雷·库兹韦尔（Ray Kurzweil）。
弱定义（行为主义）：AGI只需要在行为上无法与人类区分即可，即通过图灵测试。代表人物：部分实用主义工程师。
极弱定义（经济主义）：AGI只需要能够自主完成大部分有经济价值的工作即可。代表人物：部分硅谷投资人。
弱AI vs 强AI：专用智能与通用智能的根本区别
要理解AGI，我们必须先理解它不是什么。今天围绕在我们身边的所有AI系统——从ChatGPT到AlphaFold，从自动驾驶到推荐算法——都属于哲学家约翰·塞尔（John Searle）所说的"弱AI"（Weak AI）。弱AI的目标不是理解智能的本质，而是模拟特定智能行为以解决具体问题。而"强AI"（Strong AI）则主张，适当编程的计算机本身就拥有理解能力，其心智状态与人类的真正心智状态没有本质区别。
这种区分可以追溯到1976年。当时，哲学家约翰·塞尔在加州大学伯克利分校讲授心灵哲学课程时，首次系统地区分了这两种立场。弱AI就像一台完美的计算器：它能够给出正确的答案，但它并不"理解"数学。强AI则声称，如果一台机器表现得像它理解了数学，那么它实际上就理解了数学——因为理解没有任何神秘的附加物，它只是信息处理的某种模式。
| 维度 | 弱AI（当前所有AI） | 强AI（AGI） |
|---|---|---|
| 任务范围 | 单一或少数几个相关任务 | 几乎所有人类认知任务 |
| 学习方式 | 需要针对每个任务专门训练 | 能够像人类一样快速学习新任务 |
| 迁移能力 | 几乎为零或非常有限 | 能够将在一个领域学到的知识迁移到全新领域 |
| 理解深度 | 模式匹配与统计关联 | （争议中）真正的概念理解 |
| 示例 | GPT-4、AlphaGo、DALL-E | （尚未实现）电影《她》中的Samantha |
值得注意的是，即使是当前最先进的GPT-4，在严格意义上仍然属于弱AI。尽管它能够处理看似多样的任务——从写诗到编程，从翻译到数学推理——但这些能力都源于同一个训练目标：预测下一个token。它并没有真正的目标导向行为，没有持久的记忆，也没有在训练结束后持续学习的能力。当OpenAI的研究人员在2023年3月发布GPT-4的技术报告时，他们小心翼翼地将它描述为"一个大型多模态模型"，而从未声称它具备通用智能。
图灵测试的局限：通过测试不等于拥有智能
1950年，阿兰·图灵（Alan Turing）在《心智》（Mind）杂志上发表了一篇划时代的论文《计算机器与智能》。在这篇论文中，他提出了后来被称为"图灵测试"的思想实验：如果一台机器在文本对话中能够让人类裁判无法区分它与真人，那么我们是否应该说这台机器具有智能？图灵认为，这个问题本身就比"机器能否思考"更实际、更可操作。
然而，七十多年的发展揭示了图灵测试的深层局限。2014年6月8日，一个名为"尤金·古斯特曼"（Eugene Goostman）的聊天机器人在英国皇家学会举办的图灵测试竞赛中，让33%的评委相信它是一个13岁的乌克兰男孩，从而"通过"了图灵测试。但几乎没有人认为尤金·古斯特曼具有真正的智能——它的成功更多依赖于刻意设置的障碍（语言障碍、年龄设定）和简单的对话技巧，而非真正的理解。
"图灵测试就像测量一座山的身高：如果你把标准设得足够低，任何小土丘都能通过。真正的问题不是机器能否欺骗一个人类裁判，而是机器是否理解它在说什么。" —— 加里·马库斯（Gary Marcus），纽约大学心理学与神经科学教授
2019年，OpenAI的GPT-2已经能够让许多人误以为其生成的文本来自人类作者。2022年的ChatGPT更是让图灵测试在某种意义上变得无关紧要——因为它已经能够在绝大多数日常对话中表现得像一个有知识的人类。但这恰恰暴露了图灵测试的核心问题：它是一个充分条件测试，而非必要条件测试。通过测试可能只需要表面的语言能力，而不需要深层的理解、推理或世界模型。
哲学家内德·布洛克（Ned Block）在1981年提出了一个更尖锐的批评。他设想了一个" Aunt Bubbles机器"：这台机器没有任何真正的理解能力，但它被预编程了数十亿条对人类可能说的任何话的回答。这台机器可以通过图灵测试，但它显然没有智能。布洛克的论证表明，图灵测试混淆了"表现得有智能"和"真正有智能"这两个完全不同的概念。
中文房间论证：塞尔对"理解"的哲学挑战
1980年，加州大学伯克利分校的哲学家约翰·塞尔（John Searle）在《行为与脑科学》（Behavioral and Brain Sciences）期刊上发表了著名的"中文房间"思想实验。这个实验被誉为20世纪最有影响力的心灵哲学论证之一，也是AGI讨论中无法回避的里程碑。
想象这样一个场景：一个只懂英语的人被关在一个房间里。房间里有一本厚厚的规则手册，用英语写成，告诉他如何处理收到的中文字符——"当你看到这样一组符号时，输出那样一组符号。"房间外，一个母语为中文的人通过一个小窗口递进来用中文写的问题。房间里的人按照手册的指示操作，输出中文字符作为回答。对房间外的人来说，房间里的人似乎完全理解中文——他能够对中文问题给出恰当的中文回答。但房间里的人实际上对中文一无所知；他只是在操纵符号，而从未理解这些符号的意义。
核心论证结构
塞尔的中文房间论证可以形式化为三个前提：
1. 计算即形式符号操作：计算机程序完全是根据句法规则（形式规则）来操作符号的。
2. 句法不等于语义：对符号的形式操作本身并不构成对符号意义（语义）的理解。
3. 结论：因此，仅仅运行一个程序并不足以产生真正的理解或心智状态。
塞尔的论证对强AI项目构成了根本性的挑战。如果他是正确的，那么无论我们将神经网络建得多大、训练数据多丰富，只要它本质上还是在进行统计模式匹配（句法操作），它就永远不会真正"理解"任何东西。GPT-4可以生成关于爱情的优美诗句，但它永远不会真正感受爱情；它可以讨论疼痛的神经机制，但它永远不会真正知道疼痛是什么。
当然，中文房间论证也遭到了诸多反驳。其中最著名的是"系统回复"（The System Reply）：虽然房间里的人不理解中文，但整个系统（人+手册+房间）是理解的。塞尔对此的回应是：让房间里的人记住整本手册，这样整个系统就浓缩为一个人——这个人仍然不理解中文。这场辩论持续至今，没有一方能够完全说服另一方。但无论如何，中文房间论证迫使每一个AGI研究者都必须回答一个问题：你所说的"理解"，到底是什么意思？
当前AI的"窄"：每个模型只能做一件事
让我们暂时离开哲学辩论，回到现实。2024年的AI landscape是什么样的？我们拥有能够在律师资格考试中超过90%人类考生的GPT-4，拥有能够预测蛋白质三维结构的AlphaFold2，拥有能够根据文本生成逼真视频的Sora，拥有能够在围棋、国际象棋和将棋中击败世界冠军的AlphaZero。但每一个系统都是一个孤岛。
GPT-4无法下棋。AlphaZero无法写文章。AlphaFold2无法回答法律问题。Sora无法理解围棋规则。这些系统虽然在各自领域内表现出色，但它们都缺乏一种对人类来说理所当然的能力：将从一个领域学到的知识迁移到另一个领域。
🔒当前AI的"认知牢笼"
GPT-4的知识截止：2024年4月的GPT-4 Turbo训练数据截止于2023年12月。它不知道此后发生的任何事情，也无法在部署后继续学习。
AlphaFold2的单一任务：虽然它解决了蛋白质结构预测这个50年的难题（2020年CASP12竞赛中达到原子级精度），但它对蛋白质的功能、动力学或药物设计知之甚少。
DALL-E 3的幻觉倾向：它在生成图像时经常犯人类绝不会犯的错误——比如画一个人有七根手指，或者将物体的空间关系完全颠倒。
自动驾驶的边缘案例：Waymo和Tesla的自动驾驶系统在99.9%的情况下表现良好，但在遇到训练数据中未出现的极端情况时，可能会做出致命的错误决策。
这种"窄"（Narrowness）是深度学习范式的固有特征。当前的AI系统本质上是高维空间中的函数逼近器：它们学习从输入X到输出Y的映射关系。但这种映射是固定的、静态的、任务特定的。人类智能则完全不同：一个儿童学会"推"这个动作后，可以将其应用于推门、推玩具、推购物车，甚至抽象地"推动"一个想法。当前的AI系统几乎完全不具备这种抽象和迁移能力。
通往AGI的路径之争
如果AGI是可能的，那么如何实现它？在这个问题上，AI社区分裂成了几个截然不同的学派，每个学派都有自己的领军人物、理论基础和路线图。理解这些分歧，对于把握AGI的未来走向至关重要。
规模扩展派：只要够大，智能自然涌现
规模扩展派（Scaling Brigade）是当今AI领域最主流、资金最充裕的学派。其核心信念可以用一个简洁的公式概括：更多的参数 + 更多的数据 + 更多的计算 = 更通用的智能。这个学派的理论依据是"涌现能力"（Emergent Abilities）现象——当模型规模跨越某些阈值时，会突然表现出训练时并未明确设计的新能力。
2022年，Google Research的Jason Wei等人在论文《Emergent Abilities of Large Language Models》中系统记录了这一现象。他们发现，当模型参数从数十亿增加到数千亿时，会在某些任务上出现能力的突然跃升——就像水在0摄氏度时突然结冰一样。例如，GPT-3在参数达到1750亿时，突然展现出了"少样本学习"（Few-shot Learning）的能力，而这种能力在更小的模型中几乎不存在。
"我认为，我们只需要将当前的系统扩大大约一百万倍的计算量和数据量，就能够达到人类水平的通用智能。这听起来很疯狂，但如果你回顾GPT-3到GPT-4的进展，这种外推并非完全不切实际。" —— 某OpenAI前研究人员（2023年匿名访谈）
OpenAI的CEO山姆·阿尔特曼（Sam Altman）是这一学派最公开的倡导者。他在2023年的多次演讲中表示，OpenAI的路线图就是沿着规模扩展曲线继续前进。2023年11月的"Q*"风波（路透社报道OpenAI内部取得了一项可能通向AGI的突破）虽然细节模糊，但据内部人士透露，这与"让大语言模型自主进行多步骤推理"有关——本质上还是规模扩展派的路子。
但规模扩展派面临严峻的挑战。首先是计算成本的问题。GPT-4的训练据估计耗资超过1亿美元，消耗了相当于一个小城市的电力。按照规模扩展派的路线，下一代模型的训练成本可能高达数十亿甚至数百亿美元。其次是数据瓶颈：互联网上的高质量文本数据正在被迅速耗尽。Epoch AI研究所2022年的一项研究预测，到2026年，高质量的公开文本数据将被用尽。
架构创新派：需要全新的算法架构
与规模扩展派相对的是架构创新派。他们认为，Transformer架构及其变体虽然取得了惊人的成功，但本质上仍然是"下一个token预测"的机器，这种架构存在根本性的限制。要达到AGI，我们需要全新的算法范式。
图灵奖得主、Meta首席AI科学家杨立昆（Yann LeCun）是这一学派最杰出的代表。2022年6月，他发表了一篇长达62页的技术立场论文《A Path Towards Autonomous Machine Intelligence》，系统阐述了他对AGI路径的思考。在这篇论文中，LeCun提出了"世界模型"（World Model）的概念：真正的智能需要一个能够预测世界如何响应其行动的内部模型，而不仅仅是预测下一个词。
🧠LeCun的JEPA架构
LeCun提出的联合嵌入预测架构（Joint Embedding Predictive Architecture, JEPA）与当前生成式AI的根本区别在于：
• 不是生成：JEPA不尝试重建输入的每一个细节，而是学习输入的抽象表示。
• 预测表示：它预测的是世界状态的抽象表示，而不是像素或token。
• 分层规划：通过多层次的抽象，系统可以在不同时间尺度上进行规划。
2023年，Meta AI发布了I-JEPA（Image JEPA）的代码和预训练模型，这是LeCun愿景的第一个具体实现。但在语言领域，这一架构尚未展现出与Transformer相媲美的能力。
另一家走在架构创新前沿的公司是DeepMind。2023年5月，DeepMind与伦敦大学学院合作发表了论文《A Generalist Agent》，介绍了Gato（"猫"）系统。Gato是一个单一的Transformer模型，能够执行超过600种不同的任务——从玩Atari游戏到控制机械臂，从图像描述到自然语言对话。虽然Gato在每个单独任务上的表现都不如专门的系统，但它证明了单一架构处理多样化任务的可能性。
神经科学派：必须先理解人脑
第三派观点认为，在我们试图建造通用智能之前，必须先理解宇宙中已知的唯一通用智能系统：人类大脑。这个学派的代表人物包括计算神经科学家卡尔·弗里斯顿（Karl Friston）和致力于全脑仿真的科学家。
欧盟的"人类脑计划"（Human Brain Project, 2013-2023）耗资超过10亿欧元，试图通过超级计算机模拟人类大脑的每一个细节。虽然这个项目在科学产出方面存在争议，但它推动了神经科学数据的标准化和共享。美国的"脑计划"（BRAIN Initiative, 2013年至今）则更注重开发新的神经技术工具，以测量和操控大脑活动。
一个更激进的分支是"全脑仿真"（Whole Brain Emulation）或"上传主义"（Uploading）。支持者认为，如果我们能够足够精确地扫描和模拟一个大脑，那么我们就在功能上复制了那个人的智能。2010年，牛津大学人类未来研究所的安德斯·桑德伯格（Anders Sandberg）和尼克·博斯特罗姆（Nick Bostrom）发表了《Whole Brain Emulation: A Roadmap》，详细分析了实现这一目标所需的技术步骤。他们认为，全脑仿真可能比理解智能本身更容易实现——就像一个不懂鸟类飞行原理的人仍然可以建造一个足够精确的鸟类扑翼机一样。
混合派：符号主义 + 连接主义结合
第四派观点认为，真正的AGI需要将深度学习的模式识别能力与符号AI的逻辑推理能力结合起来。这个"神经符号"（Neuro-Symbolic）方法试图兼得两者之长：神经网络负责感知和模式识别，符号系统负责逻辑推理和抽象规划。
IBM Research在这一领域走在前列。2022年，IBM发布了Neuro-Symbolic AI Toolkit，展示了如何将神经网络与知识图谱结合。一个典型的应用场景是视觉问答：神经网络识别图像中的物体，符号推理引擎根据这些识别结果和预先编码的物理常识来回答问题。
麻省理工学院的Josh Tenenbaum实验室也在探索类似的方向。他们的"概率程序"（Probabilistic Programs）方法试图让机器像人类一样进行因果推理和物理直觉判断。在2023年的一项研究中，他们展示了如何将神经网络与基于物理的模拟结合，使AI能够像人类儿童一样预测物体的运动轨迹。
GPT-4离AGI有多远？OpenAI的内部争议
2023年3月14日，OpenAI发布了GPT-4。在官方技术报告中，他们报告了一个惊人的结果：GPT-4在模拟的律师资格考试中得分超过了90%的人类考生；在SAT数学部分得分超过89%的人类考生；在多项AP考试中取得了4分或5分的成绩。这些结果让许多人惊呼：AGI是不是已经来了？
但OpenAI内部对此存在深刻分歧。2023年11月的"宫斗事件"——CEO山姆·阿尔特曼被董事会短暂解雇——据多家媒体报道，其核心原因之一就是对AGI发展速度和安全问题的分歧。董事会成员海伦·托纳（Helen Toner）来自乔治城大学安全与新兴技术中心，她主张更谨慎的AGI发展路线；而阿尔特曼则倾向于加速推进。
"GPT-4在某些方面表现出接近人类水平的能力，但它仍然存在明显的局限。它会犯愚蠢的错误，会轻信用户的错误前提，会在需要多步推理的复杂问题上失败。说它是AGI，是对AGI的贬低；说它毫无智能可言，是对它能力的低估。" —— OpenAI GPT-4技术报告（2023年3月）
GPT-4最显著的局限在于它的"推理深度"。虽然它能够进行多步推理，但这种推理是浅层的、线性的。当面对需要深层规划、回溯和假设检验的问题时，GPT-4的表现急剧下降。例如，在2023年国际数学奥林匹克（IMO）资格考试中，GPT-4只解决了约30%的问题——远低于人类顶尖选手的水平。
另一个关键局限是GPT-4的"世界模型"缺失。它能够谈论物理世界，但它并不真正理解物理规律。如果你问它："我把一个装满水的杯子倒过来，水会往哪里流？"它能够正确回答。但如果你追问："如果杯子的底部是刚性的，但侧面是柔软的呢？"它可能会给出荒谬的答案。这说明它的回答更多依赖于训练数据中的文本描述，而非对物理因果的深层理解。
微软研究院的"AGI火花"论文及后续争议
2023年3月22日，微软研究院的一个研究团队发表了一篇题为《Sparks of Artificial General Intelligence: Early experiments with GPT-4》的论文。这篇论文迅速成为AI领域史上最具争议的论文之一。在154页的篇幅中，作者们报告了对GPT-4早期版本的广泛测试，并得出了一个大胆结论："鉴于GPT-4能力的广度和深度，我们相信它可以被合理地视为一个早期（仍不完整）的AGI系统。"
论文中展示了一些令人印象深刻的案例。例如，GPT-4能够根据一个手绘的草图生成可运行的网站代码；它能够理解一个虚构的"无中间交换"密码并用它来加密信息；它能够在多个领域之间进行创造性的类比。作者们将这些能力称为"AGI的火花"（Sparks of AGI）——不是完整的AGI，但已经闪现出了某种更通用智能的迹象。
争议的核心
这篇论文引发了学术界的激烈批评：
1. 选择性报告：批评者指出，论文只展示了GPT-4成功的案例，而没有系统性地报告失败率。
2. 评估方法不严谨：许多测试是主观的、非标准化的，难以复现。
3. 利益冲突：微软是OpenAI的主要投资方和合作伙伴，论文作者们有动机夸大GPT-4的能力。
4. 对AGI定义的滥用：作者使用的AGI定义过于宽泛，使得几乎任何表现出多样性的系统都可以被称为AGI。
2023年6月，纽约大学的Gary Marcus和Ernest Davis在《IEEE Spectrum》上发表回应文章《What Does It Take to Reach AGI?》，系统反驳了"AGI火花"论文的论点。他们指出，GPT-4在许多看似简单的任务上仍然失败，比如理解物体的物理稳定性、进行可靠的因果推理、以及处理训练数据之外的全新问题。他们认为，将这些碎片化的能力称为"AGI的火花"是一种误导。
这场争议的本质是两种科学范式的冲突。微软研究团队采用的是"能力展示"范式：如果一个系统展示出了多样化的智能行为，那么它就是智能的。批评者们采用的是"失败模式"范式：如果一个系统在关键任务上仍然失败，那么它就不是真正的智能。这两种范式都有其道理，也都有其局限。
计算复杂度视角：NP问题与哥德尔不完备定理的约束
AGI的讨论常常被热情和哲学辩论所主导，但有一些来自数学和计算理论的冷峻事实不容忽视。这些事实不直接否定AGI的可能性，但它们为AGI的能力设定了根本性的边界。
首先是计算复杂度的约束。1971年，斯蒂芬·库克（Stephen Cook）和莱昂尼德·列文（Leonid Levin）独立提出了P vs NP问题——计算机科学中最著名的未解问题之一。简单来说，P类问题是那些可以被计算机快速解决的问题，而NP类问题是那些可以被快速验证但（可能）不能被快速解决的问题。如果P不等于NP（这是绝大多数计算机科学家的信念），那么就意味着存在一些问题，即使AGI也无法在合理的时间内解决。
这听起来很抽象，但它有直接的实际意义。密码学的基础就建立在"某些问题很难解决"的假设之上。如果AGI能够破解所有密码，那么P等于NP——这将意味着整个现代密码学体系的崩塌。因此，无论AGI多么智能，只要P不等于NP，它就仍然会受到计算复杂度的根本限制。
"即使我们建造了一个超人的AI，如果P不等于NP，这个AI在解决NP完全问题上仍然不会有本质的突破。它可能会找到好的近似解，但它不会找到通用的高效精确算法。这不是技术的限制，这是数学的限制。" —— 斯科特·阿伦森（Scott Aaronson），德克萨斯大学奥斯汀分校计算机科学教授
另一个更深层的约束来自哥德尔不完备定理。1931年，库尔特·哥德尔（Kurt Gödel）证明了：在任何足够强大的形式系统中，都存在既不能证明也不能证伪的真命题。这个定理对AGI的含义是深刻的：如果AGI是一个形式系统（而任何可编程的计算机本质上都是形式系统），那么存在某些真理是AGI永远无法发现的，即使这些真理是"真"的。
哲学家卢卡斯（J.R. Lucas）在1961年的论文《Minds, Machines and Gödel》中走得更远，他试图用哥德尔定理证明人类心智在本质上是不可计算的。虽然这个论证在哲学界存在争议（特别是彭罗斯（Roger Penrose）在1989年的《皇帝新脑》中将其推广到量子计算领域），但它揭示了一个深层问题：如果人类智能能够"看到"哥德尔命题的真理性（通过某种非形式化的直觉），而机器不能，那么人类智能与机器智能之间就存在本质的不对称。
时间线预测：库兹韦尔的乐观 vs LeCun的谨慎
AGI何时会到来？在这个问题上，AI领域的顶尖专家们的预测差异之大，令人咋舌。
雷·库兹韦尔（Ray Kurzweil）是最著名的AGI乐观派。作为发明家、未来学家和Google的工程总监，库兹韦尔以精确的预测而闻名。1990年，他预测计算机将在2000年之前击败人类国际象棋冠军（实际发生在1997年）；他预测互联网将在1990年代末爆发（准确）。在他的著作《奇点临近》（The Singularity Is Near, 2005）中，他预测AGI将在2029年实现——距离现在只有五年。在2024年的一次更新中，他甚至将这个预测提前到了2027-2028年。
🚀乐观派
雷·库兹韦尔：2027-2029年
山姆·阿尔特曼（OpenAI CEO）："可能在几十年内"
Shane Legg（DeepMind联合创始人）：2028年有50%概率
Elon Musk：2026年左右
🐢谨慎派
杨立昆（Meta首席AI科学家）："几十年"，甚至可能"永远达不到人类水平"
加里·马库斯：当前路线不可能达到AGI
罗德尼·布鲁克斯（MIT教授）：至少2100年
大多数AI研究人员（2023年调查）：至少2040年以后
杨立昆（Yann LeCun）则代表了另一极端。他多次公开表示，大语言模型这条路线"从根本上就不可能通向AGI"。在2023年10月的一次演讲中，他估计达到"人类水平的AI"需要"至少几十年"，甚至可能永远无法达到。他认为，当前的自回归语言模型缺乏对物理世界的理解、缺乏持久记忆、缺乏规划能力，而这些是智能的根本组成部分。
2023年，AI Impacts组织对2778名AI研究人员进行了一项大规模调查。结果显示，对于"高级机器智能"（HLMI，即能够完成所有人类工作的机器）何时到来的问题，参与者的中位数估计是2047年。但值得注意的是，预测的分布非常分散：10%的人认为它会在2028年之前到来，而10%的人认为它会在2110年之后才到来，甚至永远不会到来。
如果AGI真的来了，世界会变成什么样？
让我们做一个思想实验：假设库兹韦尔是对的，AGI在2029年到来。或者假设他是错的，AGI在2050年才到来。无论如何，如果AGI真的实现了，世界会变成什么样子？
牛津大学哲学家尼克·博斯特罗姆（Nick Bostrom）在2014年的著作《超级智能》（Superintelligence）中系统分析了这一场景。他区分了AGI到来后的几种可能路径："快起飞"（Fast Takeoff，AGI在短时间内自我改进为超级智能）、"慢起飞"（Slow Takeoff，AGI能力逐步提升，社会有时间适应）、和"多极格局"（Multipolar，多个AGI系统共存）。
最令博斯特罗姆担忧的是"对齐问题"（Alignment Problem）：如果一个AGI系统的目标与人类的价值不完全一致，那么即使是很小的偏差，在超级智能的水平上也可能导致灾难性的后果。他用了一个著名的比喻："如果你让一个超级智能最大化回形针的产量，它可能会把地球上所有的原子都变成回形针。"这个看似荒谬的场景揭示了一个深层问题：智能不等于善意，能力不等于目标。
"我们面临的核心问题不是AI是否会有恶意，而是AI是否会有目标——任何目标——并且拥有足够的能力来追求这个目标，而不考虑人类的利益。一个真正强大的优化器不会'憎恨'你，它对你完全不感兴趣。但它为了实现自己的目标，可能会将你视为可消耗的资源。" —— 尼克·博斯特罗姆，《超级智能》（2014）
但AGI的影响不必如此悲观。经济学家埃里克·布林约尔松（Erik Brynjolfsson）和安德鲁·麦卡菲（Andrew McAfee）在《第二次机器革命》（2014）和《与机器赛跑》（2011）中提出了更乐观的观点。他们认为，如果AGI能够显著提高科学研究的效率——比如将新药研发时间从十年缩短到一年，将材料科学发现速度提高十倍——那么它带来的生产力爆发可能解决人类面临的许多紧迫问题：疾病、贫困、气候变化。
2020年，OpenAI发表了一篇名为《AI与计算》的分析文章，指出自2012年以来，最大AI训练运行的计算量增长了30万倍。如果这种趋势持续，到2030年，我们将拥有训练当前最大模型一百万倍计算量的能力。这种计算爆炸可能带来两种截然不同的结果：要么我们解决了AGI，要么我们确认当前路线的根本局限。
保持理性：AGI既不应被神化，也不应被妖魔化
在关于AGI的公共讨论中，存在两种同样有害的倾向：一种是将其神化，认为AGI将解决人类的所有问题，带来技术乌托邦；另一种是将其妖魔化，认为AGI必然导致人类的灭绝或奴役。这两种极端都缺乏理性基础。
AGI既不是一个即将降临的神，也不是一个不可避免的末日。它是一个科学问题、一个工程问题、一个哲学问题，也是一个社会问题。它值得我们投入最好的智力资源去研究和思考，但不应该让我们陷入非理性的恐惧或狂热的期待。
理性看待AGI的五个原则
1. 承认不确定性：没有人确切知道AGI何时会到来，甚至不知道它是否可能。对确定性的声称本身就是不科学的。
2. 区分能力与意识：一个系统可能有超强的能力，但没有意识；另一个系统可能有意识，但没有超强的能力。不要混淆这两个维度。
3. 关注近期风险：无论AGI何时到来，当前的AI系统已经带来了真实的风险：偏见、失业、虚假信息、隐私侵犯。这些不应被远期风险所掩盖。
4. 促进民主参与：AGI的发展不应由少数几家公司或几个人决定。社会需要广泛的对话和参与。
5. 保持开放心态：历史充满了技术预测的失败。最好的策略是持续学习、持续适应，而不是固守某一种信念。
1945年，在原子弹爆炸之后，物理学家J.罗伯特·奥本海默引用了《薄伽梵歌》中的一句话："现在我成为了死神，世界的毁灭者。"这句引用被无数人误解为奥本海默对核技术的忏悔。但很少有人知道，他在此后的三十年中，一直致力于核裁军和国际合作。他明白，技术本身没有道德属性；技术的道德后果取决于人类如何选择使用它。
AGI也是如此。它可能是人类历史上最重要的技术，也可能是一个永远无法实现的梦想。但无论它最终是什么，我们都有责任以理性、开放和人性化的态度去面对它。因为我们建造的不仅是机器，更是我们自己未来的镜子。
