新人类文明曾经不止一次地产生一个念头：创造一个传说中的强人工智能！

这个强人工智能，拥有自我意识，能通过优化自己，改善算法，以实现无穷的自我更新迭代。如此一来，它能无限提升自己的智商。

这样的物种，可以短期内，带来科技爆炸的“奇点时代”。

这个想法确实很美好，从地球时代就已经存在了。先不计较其中的安全性，暂且认为它是安全的。

人们幻想着科技奇点的到来，一个强人工智能，能给所有人类带来永生！在无限的智商下，永生还不是一件轻而易举的事儿？

各种大拿们不停地吹嘘着，他们算出一个距离美好未来的倒计时，距离奇点时代还有三十年，还有二十年等等……

但现实很糟糕。

随着科技的发展，特别是进入星际文明，科技爆炸后，人们反而越来越倾向于，这种能够无限进化的机械文明，似乎是不存在的……

换而言之，你只能创造出，比你更“蠢”的物种，却不能创造出比你更“强”的！

这种说法很容易解释。

“我们在以我们的大脑，来研究我们的大脑。”百合子用手指了指自己的脑袋，想了半天说道：“你认为……我们的智慧，能够彻底了解我们的智慧吗……”

不是绕口令，而是一个……哲学层次的问题。

人对大脑的了解，都基于人的思考。而思考，是建立在大脑本身的基础上。同样的，如果我们写了一个能写程序的程序，这个程序能否写出和自己本身一样复杂的程序？

如果人类是一个自然产生的程序，那么它能彻底辩明自身吗？

“用一位医生的话来解释：如果我们的头脑简单到可以被理解，我们就会蠢得无法理解它；反之，如果我们聪明到能够理解我们的大脑，它就会因为太过复杂而无法被我们揭示。”

“我们进步了，大脑也进步了。”

“如果我们连自己都不能够理解，更何况，从根本上创造一个更强的物种了。”

“所以我认为，强智力壁垒，确实很可能是一个难以破解的巨大难题。生育筛选可以提高智力上下限，却不能将它捅破。因为它本身根本不是智力的问题。”

“我们本身，即使成了超人类，很可能依旧没有通过。”

听到她的这一番解释，于易峰心中黯然，这个问题已经上升到哲学的层次，让人感到十分无奈。

这种无奈，是发自内心深处的无力感。

人们再聪明，再厉害，也只能创造出更弱的“人工智能“，难以实现无穷迭代。

弱人工智能的强大只在于它的计算力。假设它的计算力与新人类一样，毫无疑问从各个方面会被完爆。

更进一步地思考，这个悖论一样的问题，可以更加广域地，推广到宇宙所有的物种当中。

假设一个物种a，能够比较轻易地创造出另一个更强的物种b；那么物种b，是不是可以轻易创造出更强的物种c？

然后c再创造更强的d……

d再创造f……

如此无穷地迭代下去，一直到后来的物种n，它将会多么强大？多么聪明？

如果真的如此，宇宙中早就充满“神灵”一样的生物了！

但星空依旧如此暗淡，“神灵”并没有到处乱跑，也没有“圣母”神灵来拯救万物。

也即，“创造更强物种”这一命题，本身是极度困难的，抑或根本就是伪命题，在已知范围内，难以做到！

同样的，可以再将这个问题再次推广。

宇宙是我们做研究的工具，我们所能够思考、实验的一切，都基于这个宇宙提供的基本规律。

而同时，宇宙又是我们研究的对象，我们研究宇宙的诞生与毁灭，研究宇宙为什么会是现在这个样子，而不是别的样子。

也即……我们的研究，包括我们的想象，本身就是宇宙提供的。能够逼近，已经是了不起的成就。

“按照这种理论，世界是不可知的吗？”于易峰苦闷地说道，他想到了各种一拳爆星的。

百合子轻声说：“言归正传，先不要纠结这些更加广义的东西……强壁垒只是一个猜想而已，并没有被彻底证明。我们的思维以及自我意识确实一个黑箱系统，不知道如何研究，也不知道如何切入。”

“但我认为，在不断接受输入输出的情况下，也有可能摸清其中的部分状况，对里边的内容进行少量改善。”

“或者……可以求助于未知，让我们不了解的东西，来进行改善。”

看到于易峰埋头思考的样子，她微微笑道：“这样的强智力壁垒，并不是l4级文明的课题吧，甚至不是星际文明的课题……我们暂时不要想太多。”

“跨过强门槛的，已经可以称作神级文明。我们暂时怀疑这种神级文明的存在性……播种者是吗？不知道。”

“l4文明面临的，只是一个弱智力壁垒，是明确可以解决的。”

具体地说，强壁垒涉及的，是逻辑疆界，是悖论，是神秘，是自我意识，是脑域指令集的问题。

“弱壁垒”就简单多了，只是一个生物学难题。

智慧的基础是大脑，但一个大脑，仅仅相当于硬件，并完全不等同于智慧。

人在死的那一刹那，那0.000000001秒的时间，理论上，大脑的物理性质并没有发生剧烈的变化，但是人为什么就这么死了呢？人的死亡，是瞬间的，还是连续的？

如果是瞬间的，很可能有某些“软性”的东西，譬如说自我意识之类的东西挂掉了，所以人死了。

强壁垒描述的，主要是这种“软件”。

“软件”在某一刻，因为硬件的差错挂掉了，宕机了，所以人死了。

而大脑本身的物理结构，作为“硬件”，生物学上是可以优化的，也是看得见摸得着的，并不像“自我意识”那样，是一个黑箱系统。

“使用软件来改造硬件，并没有什么悖论。”

人的大脑就是一台杂乱地拼装在一起的器件，低效、笨拙、兼之深奥难解，却还能工作。无论从哪个层面看，大脑都是个设计拙劣，效率低下的团块，可又出人意料地运作良好。

从生物学角度，有部分团块，因为进化的不完善，确实是可以改进的，这就是人们目前使用的“大脑芯片”的由来。

但目前的大脑芯片，还远远不够，它能够提升计算量，却不能让人更加更加聪明。

“大脑很久以前对某个问题形成了特定的解决方法，人们经年累月一直使用它，或者加以改进用于其他用途，形成了多种不同的智慧。用分子学家弗朗索亚雅各布的话说来就是：进化是个修补匠，而不是工程师。”

进化也好，技术手段也好，如果能将大脑本身的能力，发挥到最佳，也就是……通过了“弱壁垒”。

生育筛选是通过弱壁垒的常用方式。

“硬件是智慧的基础，而软件，规划了智慧的疆界。一款下围棋的软件，不可能去下象棋，这是算法问题。”

“人脑所拥有的软件比任何电脑程序都要复杂，它非常强大，几乎什么都会，看上去非常完美，但实际上也拥有自己的疆界。疆界外的东西，我们不可能考虑到，也想不到，感受不到。”

“也正因为这套软件实在太强，硬件反倒太弱了。”

“换句话说，强壁垒是智慧生命的‘软件’，是思维疆界，包括自我意识等等未解之谜，基本上没有自我改进的可能。”

“弱壁垒只相当于硬件……是整个大脑的物理构造，改善硬件，确实是可以用各种手段做到的。”

只要有一种方法，能让硬件更加强大，更适用于软件，逐渐发挥出“软件”最大的性能，就可以说通过了弱壁垒。

如果完全通过弱壁垒，相当于“软件”的潜能完全开发，这个生命将会多聪明呢？

“但是，光是这一道门槛，一个弱壁垒，已经难如登天，卡住了绝大多数星际文明！”

于易峰感叹道：“也不知道，我们到底通过了弱壁垒没有……理论上超人类的大脑，还远远没有开发完全。嗯……还有，我们的软件是不是被完美素提升了？”

讨论完这番话后，两个人怀着心事，重新回到了办公室。

接下来繁忙的工作还有很多……