诺奖连发两个相关AI的奖项，重读“对人工智能的元思考”

哲学园 2024年10月11日 00:02

值此诺奖连发两个相关AI奖项之际

重发此文

另：很多人对此次诺奖多有吐槽

老蝉倒觉得很正常

ChatGPT已经让人惊艳

老蝉用它来学习

感觉已经超越老师上课的形式

主要有以下几个优点

1、带着问题学习，培养了独立思维，丰富自己的想像；

2、互动性非常好，你有问题可以立即问；

3、以上两点，就体现了一种自主学习的积极思考的一面，相当于自己在探索，碰到问题，可以先自己想，想不出来，再问一下。非常灵活主动。而且，GPT的回答似乎能理解你哪里不懂，只要多问几次，就能GET到你的点，而这在与真人沟通时都很难做到，比如一些数学物理问题，你不懂的地方，对方总是不知道你哪里不懂，总是GET不到你的盲区。

然而，即使GPT已经让人如此惊艳

但要说强人工智能可以实现

还为时过早

老蝉依然持有不可知论

且偏向于否定强人工智能

人类总有某种“天赋”

是机器无法超越的

摘录一些老蝉在群里

的观点

我看到这个新闻第一感觉就是为物理学感到骄傲和自豪，但一看网评，困惑了。一个解释，就是批评人固守着一种物理学的边界的教条，维护它的“纯正血统”。
感觉辛顿获奖确实有些牵强，但我理解诺奖委员会的用意也是很明显的，就是引导整体论性质的物理学和交叉科学，拓展物理学的疆界，作为自然科学的领头羊，物理能够担此大任。
所以，我觉得物理人不应觉得AI动了自己的蛋糕，或者诺奖瞎了眼，或者碰瓷AI，或者蹭AI热度。而应该觉得骄傲自豪。
个人理解诺奖委员会的意图主要是看重整体论性质的物理学以及与物理相关的比较新而且有生命力的交叉科学，比如凝聚态就是整体论性质的复杂系统的。而传统的还原论性质的物理学，可能已经入不了诺奖委员会的法眼了。

刚起来，就发现化学奖也颁给了AI人，诺奖委员会的心思已经是司马昭之心，路人皆知了。但是，公众还是会误认为，AI正在占领各个学科的研究，这种认知我觉得是片面的。应该是这样的逻辑比较合理：

首先，AI的强大，已经显露出来，它作为工具对各个学科的冲击毋庸讳言；
2、作为AI这门学科来说，与其说它是一门专门的学科，倒不如说是一种新型的科学综合，也就是融合交叉的科学，那么，很自然地，
3、作为这种交叉学科，它的基础必然又依赖于其他基础科学的研究，比如物理的，生物的，医学的，化学的，计算机的，数学的。。。等等，那么，又很自然地
4、作为传统学科，必须为AI的基础作出更多的贡献----这就是诺奖的司马昭之心，个人见解

对人工智能的元思考

老蝉

AlphaGo引发的全民人工智能热，虽然不能说是坏事，但也反映出人们对于科学的态度，以及是用一些怎样的思维来思考科学与人类关系问题的。

说实在的，不管是普通大众，还是受过专业科学训练的人士，甚至是很大一部分专家，看他们的言论，他们的文章，总让老蝉心生纠结。这种纠结来源于：对一个认识不充分甚至是极其不充分的问题，是什么东西使得他们坚持这样一个不容质疑的观点------全面超过人类智能的机器是一定会成为事实的，而且，这个事实的出现将指日可待！

库兹韦尔将这个超越的点命名为“奇点”，并且预言，2045年这个“奇点”将会来临。而在此前的2029年，人类大家族已经心情复杂地迎接了他们的一位新成员------通过了图灵测试的由沙子和金属制造的机器------一种全新的人！

“是的”，库兹韦尔坚定地说，“他们是人，而且是超人，我们重新创造了人，我们定义了新人类！”

这一幕与珍尼.古道尔在非洲田野上演的一幕何其相似。当珍妮观察到“黑猩猩制作草杆来取食蚂蚁，或碾碎叶子的海绵组织以之取得可饮用的水”后，她告诉了路易·利基---珍尼的精神导师，路易“欣喜若狂地打电报给她说：‘现在我们必须重新界定工具，重新界定人，或者接受黑猩猩为人。”

只不过，库兹韦尔走得更远，更加激进。毕竟，黑猩猩还是生物，是我们人类的近亲，而且是自然的造物。而机器我们一向认为它们不可能是“活”的。

这样说，可能会被人指责缺乏想象力，或者对科学的成就视而不见，或者对科学无知。老蝉是搞科研出身的，自认对科学还是有一定的了解。那么，为什么对目前所见的有关人工只智能言论心生纠结呢？问题到底出在哪里？老蝉希望看到一种怎样的见解呢？难道要符合你老蝉的观点你就不纠结了吗？

这些指责相当自然，但老蝉一直强调，我是在自己对弈自己，把各种观点在脑海里摆好，哪种观点都不占上风，然后去分析它们的合理与不合理之处，看看哪些观点更占优势，比如，功能主义，联接主义，符号主义等等，再结合具体的计算机科学、神经生物学、物理学、心理学等等学科的研究成果，看能不能得出一个比较强势的观点。很遗憾，老蝉的结论是否定的。

个中原因，一是因为这些具体学科的成熟度还是非常低下，它们的成果提供的论据都非常地不完备，所以要得出一个强的结论显得极其不充分，就如盲人摸象，摸到了一条象腿就说大象像柱子，这显然是一种缪见。

那么，在这种情形下，该用一种怎样的思维去思考问题呢？纠结之处可能正在于此！

哲学思考当然是一种必要的思考。特别是对于一个还未成熟的科学学科来说，哲学思考可以使得纷繁复杂的局面得以明晰，这种明晰不是给你具体的科学答案，而是让你在科学前沿的探索中，洞察出真理最有可能的藏身之处，以便你可以选择正确的研究方向。

那么，汗牛充栋的认知哲学，心灵哲学，人工智能哲学，生物哲学 .......所有这些哲学，似乎也没有比科学上的认识好到哪里去。

对于人工智能，我们到底缺乏什么样的思考！？

元思考！

我终于大喊出了这三个字，我郁闷多时的纠结之情终于得以释放，好爽！

让我歇一会

。

确切地说，是一种元数学的思考，或者叫元数学哲学的思考，很可能会形成一种元人工智能哲学。

那么，什么是元思考呢？所谓元，就是更高一个层级，比如，元数学，就是研究数学的数学，如哥德尔不完全定理这样的东东，是对数学形式系统本身的一种数学研究。又比如，元语言，就是对我们日常使用的针对对象的语言的研究的语言。等等。

那么，我们对于人工智能采取元一级的思考的根据是什么呢？也即，为什么要从元一级去思考？如何从元一级去思考呢？

下面分别回答上面两个问题。

如果我们读过图灵1936那篇伟大的论文，就可以发现，它是基于一种元数学思考的，它本质上与哥德尔不完全定理是同一的。只不过，图灵用一种机器加代码（纸带上的孔）的方式更加具体精确地演绎了数学计算这个形式系统的过程。哥德尔曾经给予图灵对形式系统的这种精确完美的刻画给予高度评价，他说：“图灵机清晰地给出了机械过程的精确概称.......就是说，形式系统的概念，被用一种唯一确定的方式彻底澄清了。”（王浩《逻辑之旅》）

“图灵1939年在普林斯顿的博士论文，图灵在论文中尝试找到一个序数逻辑的序列，方法是不断地在每一阶段增加新的真命题，这些命题，根据哥德尔定理，是在序列中处于前面的那些序数逻辑里不能判定的。图灵的思想是把这些非机械的、直观的步骤作为一种限制，从而证实整数间的某些关系的确定义了越来越大的序数。”（王浩《逻辑之旅》）

这一段主要涉及有穷和无穷的问题，简单说，我们基于神经的脑和计算机，都是有穷的，脑的神经元个数有限，电脑的存储单元也有限，等等，但我们的思维看上去却是无穷的，这里哥德尔提出了心灵概念，不要以为哥德尔就是简单的心物二元论者，他的一些洞察，完全是基于一种对于元数学的理解，而这也正是更加全面理解人工智能的出发点。关于这方面，可以看王浩的《逻辑之旅》第六章，里面有大量哥德尔关于心灵与机器的言论，这些言论是王浩与哥德尔的一些讨论，非常珍贵的资料。拾柒年蝉和哲学园今日将对《逻辑之旅》第六章做第一期连载，可以关注拾柒年蝉或哲学园公号查看。

图灵的博士论文之后，就是那篇次伟大的1950关于模仿游戏的论文了，这篇论文提出了图灵测试，这个大家都比较熟悉了，也比较好理解，但理解的混乱也是非常严重。对于图灵测试的理解，还要结合塞尔的中文屋，还有其他形形色色的理论。总之，图灵测试并不是一个确凿无疑的，作为拥有人的智能判定的唯一的标准。

从图灵的这三篇论文，可以看出图灵的一个思考进路：首先是从元数学出发，用机器模拟人的计算；然后在他的博士论文中，他可能考虑了一些机器与人的计算的相异之处---有穷的和无穷的计算。最后，他提出了一个强人工智能的纲领性指导-----用一种模仿游戏的形式------图灵测试来界定人类智能的其它拥有者的资格。

可见，作为计算机与人工智能的开创性论文，我们可以究其源头，寻找到元数学的老巢。而对源头的进一步厘清以及反思，会有助于我们在人工智能迷失在一片“技艺”纠缠的混乱局面中，做出清醒而又有力的突围，进而摆脱迷雾，以期走在正确的道路上。

再对所谓”技艺“做一个补充，为什么就目前读到的大部分国内有关人工智能的文章，都没有入老蝉的法眼呢？因为这些文章都太偏向于”技艺“，所谓技艺，就是人工智能方面的一些理论和技术，哲学园从2014年就发布了为数不少的这方面的文章，包括神经网络的。而我们缺少一种对人工智能的哲学思考，缺少一种元层级上的思考。而缺少这种思考，我们谈论出来的强人工智能或弱人工智能，就如盲人摸象，变得是一种扯谈或者奢谈。而且，国内人写出的文章，都是一根筋的，斩钉截铁的，不容质疑的，这种修辞往往体现了思维的贫乏。所以多看外国书。比如萨伽德的《MIND》，他的修辞就很不错，来看看其中的一段论述：“认知科学的中心假设是：对思维最恰当的理解，是将其视为心智中的表征结构以及在这些结构上进行操作的计算程序。尽管在有关构成思维的表征和计算其实质是什么这一问题上存在争议，但这一中心假说本身足以涵盖目前认知科学对思维的理解，包括联接主义理论。为简化起见，我将基于这一中心假说对心智的理解方式称为CRUM，即对心智的计算-表征理解。CRUM可能是错误的。本书第二篇将展示对这一路线的一些根本性的挑战，对于解释有关心智的一些基本事实，表征和计算可能并不恰当......."。这种修辞和描述是让人心悦诚服的。

以上，就是为什么要对人工智能进行元一级思考的理由。那么我们该如何进行元一级的思考呢？

首当其冲的应该是元数学，这基于一种柏拉图主义理念------即数学对实在的真实刻画。这种理念，由于现代科学的不断进步，被绝大多数科学学科所证实，特别是被物理学的成就所证实------数学的完全抽象的先于物理发现的描述，惊人地屡屡被物理学发现所验证！基于这一点，我们就应该给予数学一种恰当的信任，以便指导我们的思想。

哥德尔的两个不完全定理与图灵1936的论文，是研究元人工智能的起点，目前完全不会过时。图灵1950的论文，则是由数学转向应用的一个桥梁------作为人工智能的一个判定纲领，它将为人工智能的标准化提供一个参照系。

有必要特别强调一下哥德尔的重要性。无疑哥德尔不完全定理是上个世纪最伟大的发现之一，这一成果也广为人知。但哥德尔的哲学思想，则少有人问津。除了王浩这个哥德尔头号大粉丝以外（而且王浩有资格成为哥德尔的头号大粉丝）以及他写的一些著作，哥德尔的哲学思想难觅其踪。即使接触到了他的哲学，也会被他的那些脑洞大开的想法惊得一愣一愣的，继而撇撇嘴，切，荒唐！但是，只要你静下心来，好好钻研一下那两个不完全定理，然后认真看看哥德尔怎样说，你就会觉得，他的说法也并不是那么不靠谱。在他与图灵的分歧上，我们绝不能简单地将哥德尔划归到心物二元论的阵营去，而是应该多从他的不完全定理出发，在元一层的高度来思考人类心灵与机器智能的关系问题。两个同样伟大，哥德尔与图灵，智力也不分伯仲，然而对于人类心灵与机器智能，却有着截然不同的观念和立场，这是多么奇妙的一件事情。在一些人看来，哥德尔已经被证明，其人工智能的哲学观点是错误的，哥德尔已经过时。老蝉不这么看，写这篇文章，也是为了说明，哥德尔不完全定理，其描绘的世界图景，还远没有被人类所显现出来，在这两个定理的背后，还有很多需要我们去洞察的真理！

除了元数学以外，计算机科学，认知心理学，生物学特别是脑科学、神经生物学这些具体科学，它们的融合渗透，使得人工智能的发展获得极大的进步。但不可否认的是，它们并没有产生像物理学中那样具有革命性的突破的理论，DNA的发现可说是上世纪生物学最伟大的发现，但我们似乎对人的了解还是很初级。我的意思是，在这些越来越偏向于技术的学科当中，数学的应用与理论的发现是否是迫切的？在这些领域，是否需要来一次拉卡托斯所描述的科学纲领的重建？或者库恩所描述的科学革命？美国的实用主义哲学可能难当其任。

总之，一种对人工智能的元思考是有必要的，在这个技术霸占一切的世界里，我们期待在本世纪能够再一次上演革命性的科学事件-----有如上一个世纪最初的30年那么辉煌。

继续滑动看下一个