主题：【原创】AI对人类社会影响能有多大？ -- 真理
家园 只有人才有理性 “理性”这个词来源于“理智”，是人类特有的。也就是说，“理性”不是理之性，而是（人）性之理，指人性中偏理那部分。
理性是人类具有的依据所掌握的知识和法则进行各种活动的意志和能力，从人类的认识思维和实践活动中发现出来的，主宰人类的认识、思维和实践活动的主体事物。
“理性”不是客观存在的，所以通常只在哲学和文学中探讨理性，而主要研究客观事物的科学并不研究“理性”，而是研究理性的基础-意识。
反过来，科学本身才是理性活动的一种。人类的知识被分为人文学和科学，一个主要研究主观，偏向“感性”；一个主要研究客观，偏向“理性”，大体就是这么来的。
可能是翻译的问题，在中国可能让人以为这个词是描述“理”的，而“理”可以是客观存在的（客观唯心主义），所以才有这个误解。
所以如果“理性”是非客观的，那么AlphaGO一个客观的人造物会有一个人类头脑中才存在的东西就很费解。
当然你有自己定义的权力，这个定义还是不可证伪的。但我仍然认为这个定义是不合理的：
AlphaGO进行的是计算，而计算分数字式计算和模拟式计算，理论上说万事万物都在计算，比如抛一块石头实际上可以认为计算了一段抛物线。那么如果计算是“理性”，那么万事万物都是“理性”的，甚至地球，太阳系和整个宇宙都是“理性”的，甚至“感性”本身也是“理性”的，因为“感性”来源于物质的共同作用。所以这个定义是不合适的，至少对于这里的讨论是不合适的。（这就和“万物有灵”和“目的论”有些类似，有一定价值，但又没有那么大的价值，尤其是在科学上）
如果您坚持的话那还是就此打住吧。从定义上差距就大到没有讨论的必要了，免得陷入“空对空”的玄学讨论。
- 复 AI哪来的需求？
家园 情感本身其实是低能耗智能的一种方式 不过是肾上腺，dopamine，serotonin，各种荷尔蒙与只能化学信号的作用结果，进化出这些的目的是动物智能在有限能耗下的功效有关的，比如动物至少灵长类动物普遍具备情感能力。 比如都知道人记不住过去事情的细节，法庭上闹笑话常有，但是人永远不会忘记当时的情绪感受，所以第一眼的感觉决定一切，所谓直觉，所谓屁股，所谓白左最反对的按照肤色人种定性，其实都是人脑智能的天生一部分。 说起来与九段们看围棋是一回事，九段们当然无法计算到未来的所有每一步，就是一种艺术么，直到遇到了阿尔法狗。
通宝推：潜望镜,家园 看和谁比，和电子计算机比是低的 但和其他物种比可一点都不低。
大脑，可以说是人体最奇妙的器官了。
它重3斤左右，仅占人体重的2%，但是它消耗的能量却占人体的20%。
恐龙用了一亿多年也没进化出这样的大脑。人的大脑在进化上看已经相当极端了，如果没有额外的好处早就被进化淘汰了。
人类大脑中负责“理性”的部分十分小，基本上只在皮层的前额叶中。前额叶受损的人，非常容易情绪失控，且“道德感”很弱。而大脑剩下的大部分可以看成是“感性”的。
而且前额叶使用的并没有想象中的那么多，人一般只有在积极思考的时候才主动使用，其他的时候会使用更快，更节省资源的“直觉”，也就是“感性”来处理。还有人类往往会把通过前额叶学会的技能“固化”在其他部分，进而形成类似“肌肉记忆”之类的东西。比如人学走路，骑自行车等，在开始的时候会主动学习，会了以后就不用思考也能走路骑自行车了。而运动员，武术家反复训练的目的也在于让身体不经过"大脑"（实际上是前额叶）就可以对各种情况作出反应。
还有睡觉的时候大脑其实也在工作，从短期记忆到长期记忆主要就是在这时候做的，而这也不需要“理性”主动参与。
“理性”这部分大脑最大的好处其实是使人类之间的沟通，使人类之间的经验可以共享。反过来前额叶也需要这种沟通才能完全成熟，最新的研究表明要到25左右。（人年轻的时候容易冲动也可以用这个解释）
除了通过前额叶，大脑还可以通过其它方式“编程”，催眠就是其中常见的一种，而近来很多人将催眠视为更广泛的NLP（Neuro-Linguistic Programming，神经语言程序学）的一种。
家园 对，说的就是和非碳基生命体比 原因也很简单，你已经说了，因为是进化出来的。
看来你是生物进化与大脑神经心理等领域的专家，你说的这些我也都有所闻，因为我关注AI么，所以很同意你的观点。握个爪先。你上面介绍的那两本书很好，我要去找好。另一个是think fast、slow那个也学到很多。
关于脑前叶最晚成熟这点也是我反战的最初来源，把人类大脑智能最高部分还没完全发育好的人招揽上战场，这事想想确实太缺德。说明人类的进化还是很晚期的事件，毕竟从生殖能力说，人类16-19岁已经发育成熟了，那么脑前页这个进化优势就不能保证遗产到下一代去，25岁时都还几个娃了肿么整。
家园 但是大部分人大脑理性功能是很低下的 大量普通人是不怎么进行理性思考的，因为这个很耗能，而且专注理性思考会降低全身其它部分效能，应对环境也会迟钝，文弱书生书呆子这些说法，是古人的经验总结。
我国的百分之五十高中政策还是合理的，事实上只有不到百分之三十的人能够学通高中，对于其他人根本就是折磨。
晚熟的人确实有，绝对数量还不少。但是按比例来说，不高。尤其是真上战场的现在也没多少人，聪明人在部队里也是有机会出头的。
家园 试用家庭版大语言模型总结了一下 我准备以后把理性思考外包给LLM了 😁😁😁
这是13B 参数版的：
Question: Create a bullet point summary of the following text. Make sure that all major talking points are part of the summary. Use"." for bullet points.
大量普通人是不怎么进行理性思考的，因为这个很耗能，而且专注理性思考会降低全身其它部分效能，应对环境也会迟钝，文弱书生书呆子这些说法，是古人的经验总结。 我国的百分之五十高中政策还是合理的，事实上只有不到百分之三十的人能够学通高中，对于其他人根本就是折磨。 晚熟的人确实有，绝对数量还不少。但是按比例来说，不高。尤其是真上战场的现在也没多少人，聪明人在部队里也是有机会出头的。
Factual answer:
* The majority of people are not capable of rational thinking, as it requires a lot of energy and focus.
* Ancient Chinese wisdom suggests that only about 30% of the population is able to learn advanced knowledge, while the rest are subjected to unnecessary suffering.
* There are indeed late bloomers who excel in their fields, but they are relatively rare.
* In today's society, there are few people who possess both intelligence and practical skills on the battlefield.
7B参数版这样说：
Create a bullet point summary of the following text. Make sure that all major talking points are part of the summary. Use"." for bullet points.
大量普通人是不怎么进行理性思考的，因为这个很耗能，而且专注理性思考会降低全身其它部分效能，应对环境也会迟钝，文弱书生书呆子这些说法，是古人的经验总结。 我国的百分之五十高中政策还是合理的，事实上只有不到百分之三十的人能够学通高中，对于其他人根本就是折磨。 晚熟的人确实有，绝对数量还不少。但是按比例来说，不高。尤其是真上战场的现在也没多少人，聪明人在部队里也是有机会出头的。
Summary:
• Many ordinary people do not engage in rational thinking because it requires a lot of energy, and focused rational thinking can lower overall body performance and response to environmental stimuli, as ancient Chinese proverb "文弱书生书呆子" suggests.
通宝推：潜望镜,
家园 然而只有战争才能带来和平 军队喜欢年轻人的一大原因确实是因为年轻人思想比较单纯，比较热血。
然而人类只有经过战争才知道和平的可贵，这个也可以看成是人类进化还不够完全的产物：人往往只对亲身经历的事感触更深。
一战才过去二十年，也就是一代人的时间二战就爆发了；如今二战也过去几十年了，很多人也已经忘记当初到底也多残酷。甚至西方已经开始对二战进行篡改。这些都是非常不好的迹象。
然而目前来看这个还真没有解决的办法，人类要验证到底是谁的路线正确最终还是要靠战争来检验。所以怕是没用的，套一句西方常用的话，那就只能拥抱它了。
- 复 AI哪来的需求？
家园 再补充几个链接 无论是在离体的实验还是在活体的实验中，眼睛的单光子级感知灵敏度都得到确认。而且，人眼似乎可以直接用来验证贝尔不等式，感知两个光子是否处于量子纠缠态：
.
.
.
对大脑产生的这种纠缠的实验检测将足以证明大脑的非经典性；实验证据表明，这种纠缠的产生是生理和认知过程的一部分。
...
量子大脑过程可以解释为什么我们在遇到不可预见的情况、决策或学习新事物时仍然可以胜过超级计算机。
.
.
.
如果量子力学理论是正确的，那么就意味着CHSH不等式不成立，也就是说“局域实在性”和“自由意志”不能够同时成立；反之，如果我们坚信“局域实在性”和“自由意志”，那么量子力学的理论就不会是正确的。
...
真随机性也挽救了自由意志，只有客观世界本质上是随机的，我们人类才有可能具有自由意志，我们的思想才不会被远古时期的某些因素所决定。
家园 影响会很大 但是， AI对人类社会的影响不会是首先在 AI与人类之间展开，而是先在掌握 AI的人与不掌握 AI的人之间展开的。
家园 楼主说的太啰嗦 AI对人类社会的影响无非三类：
1、人类利用AI铲除人类。这个不难理解，已经在发生。
2、AI直接铲除人类，或利用人类铲除人类。
3、AI替代人类。
关于3，是不可能的。人类和AI是两个不同的事物，不可能相互替代，这个不难理解。
可讨论的就是2。前者就是《终结者》所表现的状况，后者就是《骇客帝国》所表现出的状况。
只是这些电影里跳过了一关：电活动是如何产生意识的。目前人类自己都还没搞清楚这个问题，电影更说不清。
家园 我也怀疑 虽然人类思考的本质就是无数的神经地址放电。原则上说，的确是只要参数足够大，应该可以模拟大脑。但是人的思维明显是一种类似搜索+有强烈限制条件的优化。比如让我去推导万有引力（把我退到牛顿的那个位置），我应该是只关注几个天文学的观测，然后找到几个相关公式，在此基础上创造一个引力的概念以及公式。证明其可以解释现有的天文学发现。
换句话说，计算量小的可怜，调用的记忆（知识库）小的可怜。假如牛顿很幸运的被一个类似先知的人介绍几篇论文，并加以引导，可能几个小时他就推倒出来了。这也是高中物理课堂发生的事情。毫无基础知识的中学生，学的快的一节课就掌握了。
这个优化机器怎么做到？我还是想不清楚，也觉得必然还有些大脑思考的原理我们没有掌握。机器只是用蛮力在解决问题。
- 复 我也怀疑
家园 ai有调用机制的 可以在知识库中调用相关性最大的信息，然后结合提问来回答问题
- 复 我也怀疑
家园 dream big & aim high 问题
如果你拥有所需要的所有资源（优秀的科研团队、充足的经费、完善的实验设备、大把的时间），那你最想探索的科学问题是什么？换一种说法，这一辈子有什么科学问题或者技术难题，你能解答或者突破，就觉得今生无憾了？
“我反思了一下是不是针对本科生问这个问题太早了，但总期待着有一两位同学能脑洞大开地讲讲——生老病死都是生命科学研究对象，真的就没有让人发自内心想钻研的么？”颜宁说。
生命科学领域的脑洞🕳️🕳️🕳️🕳️
这个问题真不太好回答
永生延缓衰老是永恒的无聊的话题
双胞胎的心灵感应是幼稚的徒劳的
……
一直认为生命科学领域人类目前是虫子水平，没法想的太远，
遥望五百年以后没有意义
一百年以内又出不了实质性成果
治愈癌症岂不是切断了因果？
夜夜性生活将加剧社会不公？
……
作为一个广东人，我想探索解决一下关于“湿气重”的问题。
家园 颜宁这个问题问的，哎 如果对于自然的深邃有兴趣，希望投身于纯粹的科学本身（而不是附加的名利），这样的人尤其在二十岁的年龄，肯定有，而且不少。
但是他们会选择数学或者物理，甚至计算机，极少数化学或者经济学。选生物的么，呵呵，跟文科差不多，死记硬背多，思考少。