主题：【原创】AI可以有多强大？ -- 真理

这是前面那个主贴的续篇，还是发新帖比较容易。

我前面说了AI对人类社会的影响，有的网友可能还不是很信服，问AI能从“一个落下的苹果想到万有引力定律吗”？这么具体的问题我要直接回答显然是空对空，更何况牛顿当年看见苹果的时候他脑海里的前置信息肯定也不知是一个苹果。我想说的就是，和一般科幻的老套思维不同，我认为AI很可能是有创造力的。

别的不说，就说新出来的华为盘古大模型吧，运行才一个月，就发现了一个新的抗生素。此前人类已经很多年没有新的抗生素，面对肆虐的超级细菌可谓束手无策。而盘古大模型通过学习所有的药用化学分子，然后就预测了新的可能有效的药物结构。你能说这不是一种创造力吗？反正靠人类的智商，就算你集中所有的化学家或者药学家，也没人有这个本事。这还只是人工智能新纪元第一年我们就可以看到的东西而已。

凡是涉及到数量运算的科学都可能被AI加速。我个人感觉短期内AI最辉煌的学术成就可能来自数学领域。比如说黎曼猜想之类的数学界亘古之谜，是否会被AI用强大的算力暴力破解？在这个过程里面，AI所缺乏的与其说是创造力，还不如说是做事情的动机。因为对黎曼猜想、新型药物感兴趣的终归到底是人类，AI是不需要这些东西的。那么真正的问题是，AI能够有独立的价值判断吗？

将来AI完全可能破解人类的思维方式，从而生成虚拟人类。人类大脑总共不过860亿个神经元，而现在脑机接口技术也在不断地发展。试想，如果将来我们能实现人脑神经活动的实时完全记录，然后将这些数据上传给AI学习，这也就是个大矩阵而已。人类大脑能产生的思想，AI最终都能而且会做得更好。

在眼下，有的AI研究项目已经把“贪婪”作为一个属性来训练AI了。比如说有个让AI玩的虚拟游戏，让AI机器人分成两个阵营互相围堵对方。如果AI的态度为保守，那么这一阵营的AI只会被敌人堵在墙角。如果其态度为贪婪，那就会把敌人堵在墙角。这样一看，未来有本事统治人类社会的AI要是出现，那么人类的生存状况很可能取决于AI的一念之间。将来的AI要是保守，那它可能会像ChatGPT一样只会老老实实地响应人类的需求。要是AI真的学会了贪婪，觉得应该由自己掌控人类社会上的一切。那它完全可能会像《黑客帝国》里面的矩阵一样，把人类变成干电池，就像现在的低端AI就学会了把对手堵在墙角一样。如果再变态一点，那就会化身为特工史密斯，试图格式化一切。

幸运的是，AI虽然强大，但是其来源终究是人类社会的数据，正如《黑客帝国》里的矩阵的真正目的其实并不是用人类当能源来源，而是用来搭建虚拟社会向人类学习怎么做人，怎么建立数字生命的社会。《黑客帝国》里的矩阵之所以极端到囚禁人类的程度，也完全是向人类学习的结果。据官方编年史披露，《黑客帝国》剧情前的人类社会里，AI在澳大利亚建立了自己的机器人国家，用太阳能生产出一百美元一辆的汽车，打垮了发达国家的工业（正是我们正在干的事情）。愤怒的人类（呵呵，美国）开始乱丢核弹，企图用核冬天来冻死使用太阳能的机器人。结果机器人还是胜利了。可以说是人类不仁在先，而机器人居然没有杀光人类，还把人类养了起来，已经算非常仁义了。

《黑客帝国》的设定，其实已经讲清楚了AI和人类社会的关系。AI所能建立的社会，以及对社会的理解，就是对人类社会的线性外推。但是这样的外推都有Bug，所以《黑客帝国》里的矩阵崩了一次又一次，所以不得不建立锡安城来当系统重建的备份。这正如我们现实中使用AI写代码的时候的感觉，你可以让AI写一个能实现你70-90%意图的东西，但要是真正地让它管用，你就必须不断地迭代、试错。这也就是《黑客帝国》里面主角Neo的任务。因此在我们的世界里，AI也许会强大到能控制人类社会并且生成数字文明的地步，但是从理性出发，它能保证自己的运行永远不出bug吗？所以正如使用电脑的我们会谨慎地保留系统安装盘和备份一样，AI从理性出发也需要保留自己的系统安装盘和备份。那就是地球的人类社会。

希望毁灭人类社会的AI也不是不可能出现，这样的AI能是什么样子呢？有机生命体渴望繁殖，而机器要是简单学习人类的做法的话，那就是片子里面特工史密斯那样的：程序暴走，试图无限自我复制。电影里虚拟现实里的表现就是无穷多个史密斯。现实中的AI暴走可能也类似，比如说无限开采每个星球的资源，不断建立更大型的计算机，从而无限扩张自己的算力——最后把整个太阳系，甚至整个宇宙都格式化为计算机控制的智慧球体。那么暴走到这种程度的话人类的存亡也就不再重要了。机器人完全可以先把地球变成一个像变形金刚里面塞伯坦一样的星球，然后是火星、金星……一直无限扩张下去。这正是贪婪的表现，刘慈欣的《乡村教师》里面的硅基文明就是这样的。

《黑客帝国》正传三部曲的大结局，人类和数字生命和平地生活在虚拟世界里面，其实是颇为光明的一个结局。我想我们真实的社会应该会比《黑客帝国》光明得多。因为虽然我们这个世界里的美帝和那个世界里的一样邪恶无耻，而好在本位面最先进而强大的力量将掌握在代表正义、提出人类命运共同体的我们手里，AI将主要用来给人类社会造福，而未来的超级AI能学习到的数据也主要是这样的内容。所以人类社会的前景应该是相当美好的。