我们究竟能否阻止机器人和AI战胜人类自身吗？
扬·塔林(Jaan Tallinn)在2007年的一篇网络文章《凝视奇点》中偶然发现了这些词。“它”就是人类文明，这篇文章的作者预测，随着人工智能的出现，人类将不复存在。
塔林出生在爱沙尼亚，是一名计算机程序员，拥有物理学背景，喜欢把生活当做一个大的编程问题来处理。2003年，他与人共同创建了Skype，开发了这款应用的后端。两年后，eBay收购了他的股票，他将其变现，现在他正在考虑做点什么。盯着奇点乱成一团的计算机代码，量子物理学以及卡尔文和霍布斯的名言。他入迷了。
塔林很快发现，该书的作者、自学成才的理论家以利泽尔·尤德科斯基(Eliezer Yudkowsky)已经撰写了1000多篇论文和博客文章，其中许多都是关于超智能的。他编写了一个程序，从互联网上搜集尤德科斯基的作品，按时间顺序排列，并为他的iPhone设定格式，然后他花了一年的大部分时间读这些书。
“人工智能”一词最早出现在1956年，也就是第一台电子数字计算机问世仅10年后。该领域最初的希望很高，但到了20世纪70年代，当早期的预测没有成功时，“人工智能冬天”来临了。当塔林发现尤德科斯基的随笔时，人工智能正在经历一场复兴。科学家们正在开发在特定领域表现出色的人工智能，比如下棋获胜、清理厨房地板和识别人类语言。这种被称为“狭义”的人工智能具有超人的能力，但仅限于其特定的主导领域。一个下棋的人工智能不能扫地，也不能把你从一个地方带到另一个地方。更糟糕的是，它可能还会利用随身携带智能手机的人类生成的数据，在社交操控方面表现出色。
读了尤德科斯基的文章后，塔林相信人工智能可能导致人工智能的爆发或突破，从而威胁到人类的生存，人工智能将取代我们在进化阶梯上的位置，像我们现在支配猿类那样支配我们。或者，更糟的是，有可能直接消灭我们。
写完最后一篇文章后，塔林给尤德科斯基发了一封电子邮件，全都是小写字母，这是他的风格。“我是扬，skype的创始人之一，”他写道。最后他终于说到了点子上:“我同意为人工智能全面超越人类智能做好准备，是人类面临的首要任务之一。”看起来他真的想帮忙。
一周后，当塔林飞往旧金山湾区参加其他会议时，他在加州米尔布雷的一家咖啡馆见到了住在附近的尤德科斯基。他们的聚会持续了四个小时。尤德科斯基最近对我说:“实际上，他真正理解基本概念和细节。”“这非常罕见。之后，塔林给奇点人工智能研究所开了一张5000美元的支票(2013年，该组织更名为机器智能研究所)。此后，塔林向该研究所累计共捐赠了60多万美元。
与尤德科斯基的相遇带来了塔林的目标，让他肩负起一项使命，把我们从自己的创造物中拯救出来。他开始了他的旅行生涯，在世界各地就人工智能所带来的威胁发表演讲。不过，他主要是开始资助研究可能给人类带来出路的方法:所谓的友好型人工智能。这并不意味着机器或代理特别擅长谈论天气，或者它能记住你孩子的名字，尽管人工智能的人工智能可能能够做到这两件事。这并不意味着它的动机是利他主义或单纯的爱。一个常见的谬论是假设人工智能具有人类的冲动和价值观。“友好”意味着更基本的东西:未来的机器不会在它们实现目标的过程中把我们消灭。
去年春天，我加入塔林，在剑桥大学耶稣学院的餐厅用餐。教堂般的空间装饰着彩色玻璃窗、金色的模子和戴着假发的男人的油画。塔林坐在一张厚重的红木桌旁，穿着硅谷的休闲装束:黑色牛仔裤、t恤和帆布运动鞋。一个拱形的木天花板高高地伸在他那一头灰白的金发之上。
47岁的塔林在某种程度上是教科书上的科技企业家。他认为，由于科学的进步(只要人工智能不毁灭我们)，他将生活“许多许多年”。当他和研究人员一起出去泡吧时，他甚至比那些年轻的研究生坚持得还要持久。他对人工智能的担忧在他的同龄人中很常见。PayPal联合创始人彼得·泰尔(Peter Thiel)的基金会向Miri捐赠了160万美元。2015年，特斯拉创始人埃隆·马斯克(Elon Musk)向马萨诸塞州剑桥市的科技安全组织未来生命研究所捐赠了1000万美元。但塔林进入这个精英世界是在上世纪80年代的铁幕之后，当时一个同学的父亲在政府工作，让几个聪明的孩子接触到了大型计算机。爱沙尼亚独立后，他成立了一家电子游戏公司。今天，塔林仍然和他的妻子以及六个孩子中最小的一个住在首都塔林。当他想与研究人员见面时，他经常只是把他们空运到波罗的海地区。
