我们究竟能否阻止机器人和AI战胜人类自身吗？
塔林的客人包括前基因组学研究员、CSER执行董事Sean O hEigeartaigh和哥本哈根大学的人工智能研究员Matthijs Maas。他们开玩笑说要拍一部名为《人工智能大战区块链》的动作电影。他还讨论了一款名为《万能回形针》的在线游戏，这款游戏重复了博斯特罗姆书中的场景。这个练习包括反复点击鼠标来制作回形针。它并不华丽，但它确实说明了为什么一台机器可能会寻找更方便的方法来生产办公用品。
最终，话题转向了更大的问题，正如塔林在场时经常发生的那样。人工智能安全研究的最终目标是创造出像剑桥哲学家、CSER联合创始人休·普莱斯(Huw Price)曾经说过的那样，“在道德和认知上都是超人的”机器。其他人提出了这个问题:如果我们不想让人工智能控制我们，我们想要控制人工智能吗?换句话说，人工智能有权利吗?塔林认为这是不必要的拟人化。它假定智力等于意识，这一误解惹恼了许多人工智能研究人员。当天早些时候，CSER的研究员Jose Hernandez-Orallo开玩笑说，当与人工智能研究人员交谈时，意识毫无用处。
塔林认为意识无关紧要:“以恒温器为例。没有人会说它是有意识的。但是如果你在零下30度的房间里，和那个特工对质真的很不方便。”
O hEigeartaigh也加入了进来。“担心意识是件好事，”他说，“但如果我们没有首先解决技术安全方面的挑战，我们就没有那么多时间担心意识。”
塔林说，人们过于关注什么是超智能人工智能。它将采取什么形式？我们应该担心一个人工智能来接管，还是一支由它们组成的军队？“从我们的角度来看，重要的是人工智能做了什么，”他强调说。他认为，这可能仍然取决于人类，就目前来看是这样。
