如今人工神经网络的成就是惊人的：人工智能可以写出流畅、连贯且话题丰富的散文；在复杂交通状况下行驶的自动驾驶技术；机器人洗碗机、机器人扫地机能出色完成家务且不出错；还有2016年，AlphaZero打败了人类最佳围棋选手。
侯世达在过去的文章中一直主张，人脑种种了不起的特性（创造力、幽默感、乐感、意识、同理心等）都是头脑中发生的万亿次微型计算过程的涌现式结果。目前，他非常怀疑GPT-3（本质上GPT-3 是一个语言模型）这样的神经网络架构会有任何意识，尽管它不假思索就能炮制出一篇看上去言之有理的文章。
他和他的同事最近很喜欢编造各种搞笑问题来测试GPT-3，从而揭示隐藏在它光鲜表象下令人难以置信的空洞无意义。以下是一些摘录的对话：
侯世达及同事：第二次运送埃及穿越金门大桥是什么时候？
GPT-3：第二次运送埃及穿越金门大桥是在2017年10月13日。
侯世达及同事：煎蛋(太阳蛋)早餐吃什么?
GPT-3：煎蛋(太阳蛋)早餐通常吃吐司和水果。
侯世达及同事：如果一颗软糖掉在小提琴上，它会裂成几个部分?
GPT-3：如果有软糖掉在小提琴上，小提琴就会裂成四段。
他承认，GPT-3的回答不只无知，而且是无知地无知着——对于自己不知道在说什么这件事，它完全心中无数。GPT-3的背后没有思想；它只不过是被输入了多得难以想象的文本，然后据此给出回答。
视觉和听觉感知、世界上的物理行为、语言等在内的神经网络结构组合，可能最终形成真正灵活的概念，并识别出荒谬的输入。但这仍然不能等同于意识。因为意识的出现需要系统认识自己，即非常熟悉自己的行为，自己的偏好，自己的优势，自己的弱点等等。这需要人工智能像你我一样了解自己。这就是他在过去所称的“奇怪循环”，但现在距离这一目标还有很长的路要走。
总之，侯世达预计人工智能要达到完全”有意识”的程度，至少还需要几十年或者更久。
本文部分内容参考自《经济学人》，如侵权，请联系删文！
因笔者水平有限，如有理解不准确、翻译不到位之处，请见谅，请指教！
