图灵奖得主［意识图灵机］新研究登上国际顶刊PNAS！-华院新闻

图灵奖得主［意识图灵机］新研究登上国际顶刊PNAS！

2022-06-16

2022年5月20日国际顶刊《美国国家科学院院刊》（PNAS）刊登了Manuel Blum教授与Lenore Blum教授关于意识图灵机的研究论文。Blum夫妇结合计算复杂性理论与机器学习知识，提出了一个关于意识的形式化理论计算机模型，将其命名为有意识的图灵机（CTM），CTM不仅能够帮助我们理解意识的产生机制，也可以帮助我们设计出真正具有意识的AI。深度学习三巨头之一的 Yoshua Bengio 作为审阅人之一也点头称赞。

论文链接：

https://www.pnas.org/doi/epdf/10.1073/pnas.2115934119

Manuel Blum教授与Lenore Blum教授是学术界传奇夫妇。Manuel Blum教授早在1995年荣获计算机界“诺贝尔奖”图灵奖，是密码系统和程序检验先驱、计算复杂性理论的主要奠基人之一、美国三院院士、卡内基梅隆大学，计算机科学学院名誉教授。Lenore Blum教授是美国总统数学、科学及工程教学卓越奖获得者，曾任美国国家数学研究所（MSRI）副所长（deputy director）、卡内基梅隆大学计算机科学学院杰出教授。

Blum夫妇与华院计算有着长期合作，在论文中他们特别提到感谢朋友华院计算董事长宣晓华的支持与鼓励、以及华院计算对他们工作的资助。

……and our friend Michael Xuan for his enormous personal support and encouragement. We also thank UniData Technology for their grant supporting our work ……

Lenore Blum教授是华院计算发起设立的斯梅尔数学和计算研究院重要成员之一，与全球多位菲尔兹奖、沃尔夫奖、图灵奖得主以及国内外科学院院士一起专注在计算基础理论、认知智能等领域深度研究，研究院的名誉主席是世界著名数学家、美国科学院院士史蒂芬·斯梅尔（Stephen Smale）。

（WAIC“认知智能改变世界”论坛）

Blum夫妇在2019-2021每年度由华院计算承办的WAIC世界人工智能大会“认知智能改变世界”分论坛中进行新的意识图灵机系列研究进展分享。

CTM有助于帮助我们进一步理解意识，以及相关的概念盲视、无意盲视、变化盲视、梦的创造与自由意志。

让我们接下来一起看看论文精彩内容，内容节选自AI科技评论对论文的要点整理。完整内容见文末链接。

意识图灵机

CTM灵感来自于艾伦·图灵（Alan Turing）的计算模型图灵机（TM）与伯纳德·巴尔斯（Bernard Baars）有意识的全局工作空间理论（GWT）。意识图灵机的正式定义为一个七元组，因为图灵机也是定义为七元组。其中包括短时记忆STM,长时记忆LTM，输入，输出，上行树up-tree，下行树down-tree和连接。

在CTM中，GWT的舞台以在任何时刻都包含着CTM意识内容的短时存储器（short-termmemory，STM）为代表。观众则由强大的处理器（processor）代表，每个处理器都有自己的专业知识，这些处理器组成了CTM的长期存储器（long-termmemory ，LTM）。这些LTM处理器进行预测，并从CTM的世界获得反馈。每个处理器内部的学习算法会基于这个反馈改进处理器的行为。

Blum夫妇比较了CTM和Baars的GWT模型，见下图

为了简单起见，此图简化了许多功能。例如，CTM在舞台上只有一个演员，这个演员一次只持有一个块。此外，CTM中的所有处理器都在LTM中。在这里，中央执行器被取消，因为其功能可以由处理器代劳。

在CTM中，输入和输出直接进出LTM处理器，而不是直接通过STM。在CTM中，块在定义明确的竞争中展开竞赛，以登上舞台（STM）。自觉意识（注意力）是所有LTM处理器对所广播的获胜块（即CTM的意识内容）的接收，而不是发生在输入和STM之间的事件。Baddeley和Hitch的口头排练和视觉空间画板的角色由LTM处理器承担。

预测动力学（预测、反馈和学习的循环）和多模态内部语言（脑语）以及计算和复杂性考虑是显著的、关键的CTM特性。

最后，正如扩展心智理论所述，CTM可以LTM处理器的形式访问现有技术，如Google、Wikipedia、WolframAlpha、AlphaGo等，LTM处理器的任务就是去使用这些应用程序。这是确保CTM在其生命周期开始时（t=0）拥有大量功能强大的处理器集合的一种方法，该集合在其整个生命周期中都是可扩充的。

CTM中控制我们意识思维的转变的是类似于伴随和控制着所有内容命运的微观情绪、积极和消极的配价强度这些因素，不仅是在情感上明显突出的事件如痛苦、尴尬或欲望的强迫性记忆，而且还有最深奥和抽象的理论思考。

Blum夫妇认为CTM对意识的感觉主要是其极富表现力的脑语所带来的，再加上CTM的架构、特定的特殊处理器和CTM的预测动态（预测、反馈和学习）。具有表现力的内在语言是意识感觉的重要组成部分，脑语（Brainish）是CTM的内部语言，用于处理器之间的通信，通过竞争和广播或直接通过链接来实现通信。另一方面，处理器内部使用的语言通常因处理器而异，除了脑语还有其他语言。脑语是用来表达内部语言、内部视觉、内部感觉、想象和梦境的语言。比起外部语言如英语、汉语或狗语（Doggish），脑语能够更好地表达和操控图像、声音、触觉和思想——包括非符号化的思想。

下面看看CTM与意识相关的各种现象

梦的创造

梦是最终的幻觉。梦可能是视觉的、听觉的、触觉的，等等。梦往往与情感过程有关，可以表达巨大的痛苦和恐惧（噩梦）或巨大的快乐（如飞行梦）。

在CTM中，一个内置的睡眠处理器（Sleep processor）跟踪时间、习惯、日/夜等，并有内部算法来监测睡眠的需要。如果睡眠处理器确定需要睡眠，它就会通过提高自己的块的密度，让块能够进入STM，并将其他块阻挡在STM外。这与降低其他LTM处理器的块的密度的效果大致相同。这个处理器还阻止或大大降低各种输入（所看和所听）的密度，并阻止激活输出的信号（如四肢收到的信号）。这就是睡眠状态。

睡眠处理器不断监测睡眠的需要，并随着这种需要的减少，按比例减少自己的块的密度。这最终允许梦的要点（以块为单位）达到STM。这就是梦的状态。

最后，当睡眠处理器降低其对输入和输出的限制时，CTM就会醒来。在人类中，非快速眼动睡眠和快速眼动睡眠在觉醒前可以交替进行几次。

当CTM处于梦境状态时，一个创造梦境的处理器（Dream Creator）便开始活动（也就是说，把它的块送入STM）。这些块中的要点包含思想的内核。当这些块被广播时，所有的处理器，包括那些在意识感觉中起关键作用的处理器，都会收到这些广播并竞相作出反应。这使CTM在梦境中具有与清醒时相同的活着的感觉。

造梦处理器和其他处理器轮流来回互动。造梦处理器和处理器之间的对话——来回的互动——是构成梦想的要点序列、这个序列就是梦的意识流。

梦实质上是将这一序列的块拼接起来，产生一个梦的意识流（内在电影），看到、听到和感觉到梦中的世界；影响梦中世界出现的东西。这样一个（互动的）内心电影显示一系列的感觉输入（图像、气味和声音），并产生一系列的行动。

当CTM处于睡眠状态但不做梦时，大多数处理器不能将它们的块送入STM，巨大噪音检测器和睡眠处理器本身是例外。根据设计，睡眠处理器持有一个空的要点，所以CTM没有意识或几乎没有意识。

在CTM离开睡眠状态进入梦境后，一部分LTM处理器，如内视处理器，可以将它们的块送入STM。因此，在做梦时，CTM是有意识的，可以生动地体验事件。

关键的处理器，如内在言语、内在视觉、内在感觉和世界模型的处理器，在产生CTM的意识感觉方面起着特殊作用。当CTM做梦时，这些处理器也发挥类似的作用。

梦境展示了脑语要点的力量。CTM在梦中看到的、听到的、感觉到的和做的，必然是由能够回忆、修改和向STM的竞争提交创作的处理器编造的。这些编造是现实的，因为它们使用的是清醒时产生的同样的要点。因此，即使CTM完全脱离了外部输入，梦也会产生现实世界的感觉。因此，梦可以显得如此逼真，以至于CTM可能变得难以区分梦境和现实（但是人类较难记住梦境，所以这个问题在人类中就可以避免）。

世界模型处理器预测CTM的行为将在其（内部和外部）世界中产生的影响。它从这些行动在其世界模型中的效果来做这件事。造梦处理器可以使用这个相同的预测机器来创造梦。

梦也使CTM能够在未知和可能的危险情况下测试自己。在人类和CTM中，梦都可以成为实验各种可能解决方案的实验室。

然而，与清醒时的意识不同，由于CTM在其世界模型处理器中的“一致性检查器”没有得到来自环境的输入，不一致的情况在梦中比清醒时更容易发生而不被注意。因此，CTM可以在梦中飞行。

Zadra和Stickgold断言，在人类中，“梦境并不完全重现记忆。梦创造了一种叙述，其要点与最近的一些记忆相同，并可能有相同的标题。”他们指出，“快速眼动睡眠提供了一种大脑状态，在这种状态下，弱的和意外的联想比正常的强联想更强烈地被激活，这解释了快速眼动睡眠是怎么帮助去寻找一些弱相关的遥远的联想，也许解释了我们快速眼动睡眠期的梦为什么那么奇怪。”

梦的创造

最后，当睡眠处理器降低其对输入和输出的限制时，CTM就会醒来。在人类中，非快速眼动睡眠和快速眼动睡眠在觉醒前可以交替进行几次。

造梦处理器和其他处理器轮流来回互动。造梦处理器和处理器之间的对话——来回的互动——是构成梦想的要点序列、这个序列就是梦的意识流。

在CTM离开睡眠状态进入梦境后，一部分LTM处理器，如内视处理器，可以将它们的块送入STM。因此，在做梦时，CTM是有意识的，可以生动地体验事件。

梦也使CTM能够在未知和可能的危险情况下测试自己。在人类和CTM中，梦都可以成为实验各种可能解决方案的实验室。

自由意志

自由意志的问题是古老的，早在公元前一世纪就出现在Lucretius（De Rerum Natura）。

Samuel Johnson博士在1709年至1784年之间的观察捕捉到了自由意志的悖论：“所有的理论都反对意志的自由，而所有的经验都支持意志的自由。”

Stanislas Dehaen 则发出了当代的声音：“我们的大脑状态显然不是无因的，也不能逃脱物理学定律——没有什么可以逃脱。但是，只要我们的决定是基于有意识的思考，自主地进行，没有任何障碍，在承诺采取某项行动之前仔细权衡利弊，就是真正的自由。当这种情况发生时，我们说的自愿决定是正确。当然，即使它最终是由我们的基因和环境造成的。”

Blum夫妇在 Dehaene 的基础上补充说，计算需要时间。为了做出决定，CTM在需要时间的评估中对其备选方案进行评估，在这段时间里，CTM是自由的，事实上可以感觉到自由，选择它认为（或者说计算出的）最好的一个结果。自由意志是计算不同行动路线的后果的自由——或在可用资源（时间、空间、计算能力和信息）范围内尽可能多地计算这些后果——并从中选择最适合自己目标的行动路线。这个定义同时包含了预测性动态（计算不同行动方案的后果）和资源限制（时间、空间、计算能力和信息）。

例如，如一个CTM被要求在国际象棋游戏中扮演一个特定的位置。不同的处理器建议不同的棋步。CTM的主要下棋处理器通过在STM中广播一个块来表示，它认识到它有一个可以选择的棋步，并且它认为值得仔细研究每一步的后果。在这一点上，面对可能的棋步选择，但尚未评估这些棋步的后果，CTM可以在时间限制内自由选择它认为最好的棋步。

CTM会不会觉得自己有自由意志？

当考虑到CTM会询问自己 “我应该做什么动作？”的时刻，意味着这个问题已经上升到STM阶段，并通过广播到达LTM处理器端的观众处。作为回应，一些观众会向活动提出自己的建议，而竞争的获胜者则可以登上舞台得到广播。因为要点很短，因此像一些比较简要的广播也可以得到合理的阐明。
出现在STM并向LTM全局广播的持续性反复的评论、命令、问题、建议和答案，使CTM对其控制有了认知。当CTM被问及它是如何产生一个具体建议的（即，在提出那个建议的过程中它进行了哪些思考），它的处理器将能够阐明达到这个阶段的一部分对话（尽管短期内也许不会超过这个阶段）。
许多LTM处理器通过竞争来产生CTM的最终决定，但CTM只是有意识地知道进入STM的是什么，而非将所有内容都提交到竞争当中。此外，CTM中绝大部分、即其中大部分的处理器，并不知道处理器间（通过链接）的无意识交谈。就CTM而言，当有意识地忽视决策出现的过程足够多时，以至于这个决策有时像是凭空得来的。即便如此，尽管CTM无法有意识地知道其建议如何被采纳，除了STM所传播的高层级内容外，它知道建议是来自其内部自身的。对于CTM提出的建议理应得到赞扬（毕竟，它们确实来自CTM内部），并且可以用高层次叙述来解释一些内容，至于无法解释的部分，它可以说“我不知道”或是“我不记得”。正是有了那些经过选择的知识（CTM对选择有了解、也有不理解之处），CTM才生成了自由意识的感觉。不管确定性与否，这种经验上的感觉是自由意志的一种。

在CTM中，上述解释并不需要运用到量子物理学。唯一的随机性是在向上树竞争中的coin-flip神经元，以及处理器在其概率算法中使用的任何随机性。此外，可以证明的是，上述关于自由意志感觉的论证仍然适用于完全确定的CTM（例如，使用伪随机性的CTM）。由此可见（可以预见这将引起一场激烈的争论），即使在一个完全确定的世界中，CTM也会感觉到它有自由意志。

参考资料：

https://www.pnas.org/doi/10.1073/pnas.2115934119

https://cloud.tencent.com/developer/article/2018552