构建类人人工智能通常从解构人类开始。取指纹：当拿着肥皂碟时，我们会根据指纹结构直观地调整握持方式。我们只是没有想到它，因为我们把它归结为反射——在最长的时间里，科学家们也是如此。没有人有任何方程式来解开它是如何工作的，因为，好吧，这并不重要。但是机器人技术的兴起让事情变得复杂了。

对于机器人来说，我们必须准确地弄清楚发生了什么，甚至将这些知识转化为可写的代码。现在解码指纹抓地力很重要，研究人员终于试图找到一个新的物理定律来解释它。

从某种意义上说，物理知识和人类特征的编码能力是机器人编程的先决条件……这为逼真的人工智能的未来引入了一个重要问题。人类意识的某些方面是否永远不会满足这些标准？好吧，根据一些哲学家的说法，可能有。

在阅读了两个绝对令人心碎的思想实验之后，你可能会同意。或者，你可能不会。

玛丽不知道的事

一个名叫玛丽的女人住在一间小房子里。她从未离开过。当她环顾她的住所和窗外时，一切都呈现出黑色、白色或某种灰色。玛丽看不到颜色，但她常常想，“我黑白电视上的那些人说红玫瑰是什么意思？”

假设玛丽的房间里有一个魔法图书馆。这个假设的地方包含书籍，其中包含有关红色的每一个信息片段。我的意思是一切。为了满足她对知识的渴望，玛丽读了所有的书。

她了解红色电磁波长、深红色给人的感觉、对猩红色的最清晰描述、樱桃的类比以及任何你能想到的东西。再加上更多。没有人比玛丽更了解红色。然后，她完成了她的阅读……并决定走出她的房子。

哇。

令玛丽惊讶的是，她看到了颜色。她从来不是色盲。她的房子、家具和电子产品只是黑白相间的，她的窗户用单色过滤了外面的世界。

然后发生了一件大事。玛丽看到了一个红苹果，这是她专长的颜色。她的下巴掉了下来。她对红色有了新的认识。但是……这很奇怪。为什么她的图书馆里没有这些知识？它拥有人们可能了解的关于红色的一切，对吧？

这个故事是对哲学家弗兰克杰克逊年著名的思想实验“玛丽不知道的事情”的看法，玛丽刚刚收集的关于红色的无形知识被称为qualia。

什么是素质？

简单地说，感受性定义了只有通过有意识的经验才能获得的知识。

这就像您第一次听到自己喜欢的歌曲时收到的主观信息。你可能会感到脊背发凉并告诉你的朋友，“你必须听它才能理解。”用音乐理论和声学的深度神奇地轰炸他们的大脑可能不会奏效。在他们听到之前，他们不会像你一样知道这首歌。

Qualia可能就是为什么即使是最好的神经科学家、心理学家和诗人也可能无法很好地解释心碎的痛苦，让从未经历过心碎的人真正理解。

而且，回到玛丽，世界上所有关于红色的物理信息都不足以教会她看到红色的真实情况。杰克逊写道：“当她被放出黑白房间或给她一台彩色电视机时，她会知道看到红色的东西是什么感觉。”“这被正确地描述为学习——她不会说‘嗬，哼’。”

尽管该理论已被反复讨论多年，但它仍然是一个非常流行的论点，即某些知识是如何用语言无法描述的，并且是人类意识所独有的。这意味着，如果qualia是一种真正的力量，那么它的内部运作将非常难以写下，因此也难以编写程序。它很可能是人类和人工智能之间的障碍。

另一方面，也许不是。也许我们可以以某种方式对其进行解码，就像我们慢慢了解指纹抓握动力学的方式一样。

我们可以吗？

简短的回答：我们不知道。专家们在两个方向都进行了争论，有些人提出了新的角度。但大多数人都被困在假设的墙后面，而事实是感受性没有科学的解释。

构建一个qualia机器人

好的，从我告诉过你关于Mary的内容来看，你可能已经想到了对qualia的一些反对意见。你不会孤单：思想实验经常布满漏洞，玛丽的房间也不例外。

一些反驳认为房间里的阴影可能带有彩色颜料。其他人说，“魔法图书馆”会以我们无法想象的方式给玛丽提供知识。对于后一点，哲学家丹尼尔·丹尼特（DanielDennett）提出了一个引人入胜的反驳——与我们关于人工智能的大问题有着惊人的相关性。

简而言之，丹尼特建议，如果玛丽真的掌握了关于红色的所有信息，那她不是无所不知吗？她不会像普通人那样只知道颜色。从理论上讲，如果它存在的话，她会了解红色“感受性”，作为她红色文学的一部分，对吧？从这种思路出发，我们可以推断出qualia确实准备好提升AI水平，但我们还没有弄清楚如何利用它。

好吧，也许吧，但这感觉就像一个死胡同。我们无法确定玛丽是否会拥有这样的权力。我们不是无所不知的，所以我们甚至不知道那些力量会是什么样子。因此，丹尼特说，让我们忘记玛丽是人类以消除这些限制。

输入RoboMary。

“从机器人的角度思考是一种有用的练习，因为它消除了我们对大脑还不够了解的借口，无法说出可能相关的事情，允许一种关于大脑神秘力量的羊毛浪漫主义让我们的判断蒙上阴影，”丹尼特写道。

RoboMary知道什么

欢迎来到第二个思想实验。

RoboMary是称为Mark19的一类机器人的迭代，但不幸的是，它是在没有色觉的情况下构建的，正在等待升级。在那之前，RoboMary的“眼睛”或摄像机只能以黑白方式传输信息。

“RoboMary的黑白相机很好地代表了人类玛丽的隔离，我们可以让她用她的黑白相机眼睛随意浏览心理物理学和神经科学期刊，”丹尼特写道。

基本上，她正在浏览她自己版本的魔法图书馆。但RoboMary更进一步。

她了解了Mark19颜色输入的工作原理，然后，“利用她丰富的知识，她编写了一些代码，使她能够对黑白相机的输入进行着色，”丹尼特写道。她以人类玛丽无法做到的方式改变自己。

例如，这种新设置允许她用黑白视觉看苹果，然后准确地将其想象为Mark19机器人的正确颜色代码。RoboMary在探索世界时开始自动将设置应用于所有事物。但这就是她真正让自己与众不同的地方。她观察其他正在工作的Mark19，剖析它们对各种颜色的反应并相应地调整自己。

在这一点上，RoboMary知道每种颜色输入是什么，并以与任何其他Mark19完全相同的方式对它们做出反应。

大日子到了。RoboMary的颜色传感器启动了。

“当她终于安装了彩色相机，禁用了她的着色软件，然后睁开眼睛时，她注意到……什么都没有。事实上，她必须检查以确保她安装了彩色相机，”丹尼特写道。“她已经清楚地知道像其他Mark19一样看到颜色会是什么样子。”

想到这里，我不寒而栗。通过更改她的设置，RoboMary似乎为自己模拟了感受质。但我也无法停止想象一个更可怕的情况。

如果RoboMary睁开眼睛……一切都不同了怎么办？

作为人类，我们受到限制

玛丽传奇不止于此。

尽管有大量其他修改——其中一些来自杰克逊本人以完善原始论点——丹尼特的整个工作也非常细致。

他解决了您在想到Mary和RoboMary时可能会遇到的无数反对意见，后来进入了一个根本不允许RoboMary篡改她的设置的复杂场景，以查看qualia是否仍然保留。Dennett的文章甚至还有一篇后续文章，题为“RoboDennett仍然不知道什么”。

但与所有哲学思想实验一样，Mary和RoboMary的目的不是告诉你真相。这是强迫你自己思考选项并找到真相。

我想出的一些是：也许必须像RoboMary一样构建AI才能获得qualia。或者，也许机器人可以在更广泛的意义上被编程为有意识的——也就是说，如果我们能找到一种方法来从数学上解释整个意识。一个“有意识”的机器人可能会像我们一样探索世界，因此获得像我们一样的感受质。

或者也许感受质不是我们认为的那样。杰克逊的故事提出了一个令人信服的论点，即一旦玛丽看到红色，肯定会发生一些事情。它被命名为“qualia”并归因于学习新事物，但如果它是许多事物的组合，并且与学习无关怎么办？

或者……也许，只是也许，感受质真的是人类意识和人工智能之间不可触及、不可编程的障碍。

这些角度只是冰山一角，随着岁月的流逝，如果还没有的话，可能（可能会）被证伪。但请回想一下最初调用RoboMary的原因：想象一个超越人类限制的实体。

这是一个牵强的思想实验，因为作为人类，我们受到限制。我们能做的就是推测。

转载请注明:http://www.aideyishus.com/lktp/5584.html