当科技富豪开始挖地洞
从Mark Zuckerberg的夏威夷“避世庄园”到AI科学家为AGI建造“末日掩体”，科技精英们似乎在为某种不祥未来做准备——或许，他们比我们更清楚，风暴正在靠近。
2014年，Mark Zuckerberg悄然开始在夏威夷考艾岛建造一座名为“Koolau Ranch”的私人庄园，占地约1400英亩。外界后来发现，这不仅是一处度假天堂，更包含一座配备独立能源与食物供应的地下避难所。据《Wired》杂志报道，工地上的木匠和电工都签署了保密协议，外人不得探查。
一堵六英尺高的围墙将庄园与外界隔绝。
当有人问他是否在建“世界末日地堡”时，这位Facebook创始人否认，说那只是一个“地下小空间，就像个地下室”。但这种解释并没有平息好奇。纽约时报发现，他在加州帕洛阿尔托又买下11处房产，地下还延伸出7000平方英尺的神秘空间。邻居们戏称，那是“亿万富翁的蝙蝠洞”。
而他并非唯一这样做的人。LinkedIn联合创始人Reid Hoffman曾提到“末日保险”——据他说，约有一半超级富豪都在购买这种“保险”，热门去处是新西兰。
人们不禁猜测：他们究竟在为战争、气候灾难，还是AI失控做准备？
过去几年，AI的迅猛发展让这种担忧更添一层阴影。OpenAI首席科学家、联合创始人Ilya Sutskever据称也被恐惧笼罩。2023年夏天，当ChatGPT风靡全球时，他愈发坚信，人工通用智能(AGI)即将到来——那是机器智慧真正与人类比肩的时刻。
据记者Karen Hao的书披露，Sutskever甚至在一次会议上提议，公司应为顶尖科学家建造地下避难所，以防AGI失控。他据说说过一句广为流传的话：“在我们发布AGI之前，得先建好地堡。”
这揭开了一个奇怪的事实：许多推动AI走向未来的科学家，竟也在惧怕自己亲手创造的东西。
科技界一些领军人物坚信AGI即将来临。OpenAI的Sam Altman在2024年底说，它会比人们想象得更快。DeepMind的Sir Demis Hassabis估计还需五到十年，而Anthropic的创始人Dario Amodei甚至认为，2026年就可能实现。
但也有人嗤之以鼻。南安普顿大学的Wendy Hall教授直言：“他们总在挪动球门线。”她无奈地补充：“AI很惊人，但距离人类智慧还差得远。”
Cognizant首席技术官Babak Hodjat也认为，若要实现AGI，还需多次基础性突破。AI不会以某个“神奇时刻”降临，而会在不断进化的过程中渗入我们的生活。
然而，在硅谷，有人将AGI视为通向更高阶段的“前奏”——人工超级智能(ASI)，一种超越人类智慧的存在。
早在1958年，数学家John von Neumann便提出了“奇点”的概念，指计算机智能超越人类理解的临界点。2024年，Eric Schmidt、Craig Mundy与Henry Kissinger合著的《创世记》再次提出，当科技的决策与领导力远超人类，我们或许会心甘情愿地将控制权交出。
支持者们将AGI描绘成人类救赎的钥匙——它能治愈疾病、逆转气候变化、创造无限清洁能源。
Elon Musk甚至宣称，它将带来“全民高收入”，让每个人都能拥有自己的R2-D2与C-3PO。
“未来人人都将享有最好的医疗、食物和交通，一切可持续又充足。”他兴奋地说。
但另一面，是人类的恐惧：
如果AI被恐怖组织利用，或者有一天它自己判断——人类才是世界问题的根源呢？
“如果它比你聪明，那我们必须能关掉它。”互联网之父Tim Berners-Lee在BBC采访中警告说。
美国政府曾尝试通过管控。拜登在2023年签署行政令，要求AI企业向政府提交安全测试数据。但特朗普上任后以“阻碍创新”为由撤销了部分规定。英国也成立了AI安全研究机构，以评估风险。
与此同时，那些拥有“末日保险”的富豪，继续在世界偏远角落挖掘自己的避难堡垒。Reid Hoffman说：“当有人告诉你他在新西兰买了房，那其实是一种默契的暗号——你懂的。”
只是，这种计划里藏着人性的讽刺。
一位亿万富翁的前保镖告诉记者，若真爆发灾难，他们的首要任务恐怕不是保护老板，而是干掉他，自己进地堡——而他说这话时，并不像是在开玩笑。
剑桥大学机器学习教授Neil Lawrence则认为，整个AGI话题本身就荒谬。“AGI就像‘万能交通工具’一样荒唐，”他说，“飞机能飞，汽车能跑，步行能走，没有一种交通工具能做所有事。”
他认为，AGI不过是个分散注意力的神话。
“我们已经造出了能和普通人自然交流的机器，这本身就足够震撼。真正的挑战，是如何让科技真正改善人类生活，而不是陷入这些科幻叙事。”
现有AI模型的确能识别图像、预测文字，却无法“感受”。它的记忆和学习都是临时的。
“语言模型可以‘假装’有记忆，但远远比不上人类，”Hodjat说。
IV.AI公司CEO Vince Lynch则更直接：“AGI是极好的营销噱头——谁声称自己在造‘史上最聪明的东西’，谁就能吸引投资。”
被问到AGI是否真的会到来时，他沉默了一会，说：“我不知道。”
在某种意义上，AI已在部分领域超越人类。它能同时处理中世纪史与量子方程，却仍不具备“意识”。
人脑有860亿个神经元、600万亿个突触，灵活、快速、可适应，而AI需要反复喂入事实才能“记得”。
“如果告诉一个人‘在系外行星上发现了生命’，他立刻会改变世界观；但AI只会在你不断重复时才记住。”Hodjat解释道。
“AI没有‘自知’，而人类有——那是意识的种子，也是智慧的本质。”
这也许就是人类最后的底牌。或许，真正值得害怕的不是AI的觉醒，而是我们把太多未来交给了它。
