我们究竟能否阻止机器人和AI战胜人类自身吗？
理论家尤德科斯基(Yudkowsky)发现，有证据表明这一点可能是正确的。从2002年开始，尤德科斯基主持了几次聊天会议，他在其中扮演一个封闭在盒子里的人工智能角色，而其他人轮流扮演看门人，负责把人工智能关在盒子里。五分之三的情况下，尤德科斯基——一个凡人——说他说服守门人释放了他。然而，他的实验并没有阻止研究人员尝试设计一个更好的盒子。
研究人员认为，塔林基金正在寻求各种各样的策略，从实用的到看似遥不可及的方面。一些关于拳击人工智能的理论，要么是物理上的，通过构建一个实际的结构来包含它，要么是通过编程来限制它所能做的事情。其他人则试图教人工智能坚持人类价值观。牛津大学人类未来研究所的数学家兼哲学家斯图尔特·阿姆斯特朗(Stuart Armstrong)是一位研究这三个问题的研究员，塔林称该研究所是“宇宙中最有趣的地方”(塔林已经向FHI提供了31万多美元) 。
阿姆斯特朗是世界上少数几个全职致力于人工智能安全的研究人员之一。我在牛津与他见面喝咖啡时，他穿着一件没有扣扣子的橄榄球衫，看上去就像一个一辈子都躲在屏幕后面的人，苍白的脸被一团沙色的头发框住了。他的解释中夹杂着令人困惑的大众文化和数学知识。当我问他在人工智能安全领域取得成功是什么样子时，他说:“你看过乐高大电影吗?一切都太棒了。”
阿姆斯特朗的一项研究着眼于一种称为“甲骨文”人工智能的拳击特定方法。2012年，他与FHI的联合创始人尼克·博斯特罗姆(Nick Bostrom)在一篇论文中提出，不仅要把人工智能隔离在一个储罐中，这是一种物理结构还要把它限制在回答问题上，比如一个非常智能的通灵板。即使有了这些界限，人工智能也将拥有巨大的力量，通过巧妙地操纵审讯者，重塑人类的命运。为了减少这种情况发生的可能性，阿姆斯特朗建议对对话进行时间限制，或者禁止提出可能颠覆当前世界秩序的问题。他还建议，用甲骨文公司的代理指数来衡量人类的生存状况，比如道琼斯工业平均指数或东京的过街人数，并告诉该指数保持稳定。
阿姆斯特朗在一篇论文中称，最终有必要创造一个“大红色关闭按钮”:要么是一个物理开关，要么是一个被编程进人工智能的机制，在爆发时自动关闭自己。但设计这样一个开关远非易事。不仅仅是一个对自我保护感兴趣的高级人工智能可以阻止按钮被按下。它也会好奇为什么人类会发明这个按钮，激活它来看看会发生什么，然后让它变得无用。2013年，一位名叫汤姆墨菲七世(Tom Murphy VII)的程序员设计了一款可以自学玩任天堂娱乐系统游戏的人工智能。决心不输掉俄罗斯方块，人工智能只是按下暂停键，让游戏保持冻结状态。墨菲在一篇关于自己创作的论文中挖苦道:“说真的，唯一的制胜招就是不玩。”
要让这个策略成功，人工智能必须对按钮不感兴趣，或者，正如塔林所说:“它必须给不存在的世界和存在的世界赋予同等的价值。”但即使研究人员能做到这一点，也存在其他挑战。如果人工智能在互联网上复制了几千次呢？
最让研究人员兴奋的方法是找到一种让人工智能坚持人类价值观的方法——不是通过编程，而是通过教人工智能学习这些价值观。在一个党派政治占主导地位的世界里，人们常常细想我们的原则有哪些不同之处。但是，塔林告诉我，人类有很多共同点:“几乎每个人都重视自己的右腿，而我们只是不去想它。“我们希望人工智能能够被教会识别这些不可被改变的规则。
在这个过程中，人工智能需要学习并欣赏人类不合逻辑的一面:我们经常说一套做一套，我们的一些偏好与他人发生冲突，人们在喝醉时不那么可靠。塔林认为，尽管面临挑战，但值得一试，因为风险如此之高。他说:“我们必须提前思考几步。“创造一个与我们兴趣不同的人工智能将是一个可怕的错误。”
他在剑桥的最后一个晚上，我和塔林以及两名研究人员一起在一家牛排馆共进晚餐。一个服务员把我们这一群人安排在一个粉刷成白色的酒窖里，酒窖里有一种洞穴般的气氛。他递给我们一页菜单，上面有三种不同的土豆泥。一对夫妇在我们旁边的桌子旁坐下，几分钟后他们要求搬到别处去。“太幽闭恐怖了，”这位女士抱怨道。我想起了塔林的那句话，他说，如果把他锁在一个只有互联网连接的地下室里，他会造成多大的破坏。我们到了，在箱子里。这似乎是在暗示，这些人在考虑如何出去。
