主题：对ChatGPT的几点思考 -- 唐家山
但把它当成游戏就好。
我先前参与讨论的帖子一开头就说复杂的真实世界，你能能理解为何引入老庄哲学的辩证引喻？ signifier and signified 能指与所指
更多阅读：
https://link.springer.com/article/10.1007/BF02954535
https://www.worldscientific.com/doi/abs/10.1142/S2717554522300018
本帖一共被 1 帖 引用 (帖内工具实现)
明中期，冒出一个王守仁。明确是（信史），成年经历世事后龙场顿悟型。之后几百年，冒出个毛泽东，按毛自个说法是实践型。
王阳明，此等天才类为啥不纠正或者修正下明朝制度，改良延续明突破300年寿命。未能解惑。
他之前的天才，缺少可信史料，不能评判。
吃鸡大赛，秦末、西汉末、东晋末、西魏（周）末、隋末、元末、清末民初，冒出或猛人或天才；东汉末、三国、西晋末、南北朝、唐末、五代十国、北宋末、南宋末、明末，从猛人降级到人才等级。有老史虾谓之老祖宗占的地盘大繁衍人口多的冗余大。
千里马靠伯乐，万里驹有无懵逼。
生物随机性拉来凑合解释。
然
求助自然科学类出才总结，它山之石敲门问玉。问社科类出才的玉。
英雄何在？英雄何出？
必须有大佬带进那个名士圈子，才有话语权
英国之后，俄国“ChatGPT国家队”来了
2023/4/27 11:46:28
AI领域混战再度升级，“国家队”纷纷出手，俄罗斯GigaChat加入AI聊天机器人竞赛。
本周一，俄罗斯联邦储蓄银行（Sberbank）宣布，已推出一项名为GigaChat的技术，与ChatGPT展开竞争。
按照该银行的说法，GigaChat不同于其他聊天机器人的地方在于它能够用俄语进行智能交流。
不过，GigaChat目前还处于初始的测试模式，仅限受邀请用户参与。
俄罗斯联邦储蓄银行是俄罗斯一家占据主导地位的大型银行，近年来在科技领域投入了大量资金，试图减少俄罗斯对进口的依赖。
去年年底，OpenAI 发布了聊天机器人ChatGPT，在科技行业掀起了一场AI竞备赛。企业希望重塑人们的工作方式，并在此过程中创造利润。
自从ChatGPT火爆以来，AI在全球范围内快速发展。中美两国是这场竞争中的佼佼者，欧洲除了在监管上重拳出击GPT，其他方面暂时还没有什么动作。英国动作格外高调，英国首相苏纳克、科技大臣多内兰及多家政府机构联合宣布，将斥资1亿英镑（1.25亿美元）开发其“国家AI”。
ChatGPT再厉害，也只能去吸取虚拟数字中的数字信号，是无法与现实世界做真实交互的。它可以听一万个专家告诉他做A就会得到B，但是不从真实世界中做实验，就无法从最底层确认这个说法究竟是真是假。绝知此事要躬行，才能有判断力的根基。
假如有人协助在真实世界做实验，将实验结果喂给它，那又怎么样？
甚至有没有可能进化到某一程度，它自己做实验呢？
这样是不是就很可怕了？
人类的知识都是在实践中提出问题，再试图自己解答获得的。目前为止好像还没看到 AI 会提问，再自己找答案，一般都是被动的回答问题。但这也不妨碍其做出一些重要发现，比如一个问题在某个领域还没有解决办法，但它可能被转化到其它领域的某个已被解决的问题，数学中就有很多类似的情形。这样利用AI的海量存储知识能力，有可能解决一些交叉领域的问题。
但是我知道，在工程实践里很常见，只要提出了正确的问题，问题就解决了一大半。
所以，AI会不会提问题，这个是个好问题！😄😄😄
讨论的时候也提到过。
智慧是有分类和层次的，AI现在能达到的相当于文字般若吧
AI要谈感情先要有七情六欲的物质基础
痛觉传感器先发明一遍吧
先探讨一下电力不足与充足的“饥饱感”吧
可以参照一下六般若，想象一下AI能体验到哪一层：
六般若是一而六，六而一，无非是回到当下，请大家仔细看佛陀圣像手中的金婆罗华：
①文字般若：“现在请大家仔细看佛陀圣像手中的金婆罗华”这句话是文字般若；
②方便般若：大家仔细看佛陀圣像手中的金婆罗华这个行为是契入般若境界的方便，是方便般若；
③观照般若：您仔细看金婆罗华的时候行为就是观照般若，妄想皆无，这时已经远离了分别意识，就是观照般若；
④实相般若：这时候您的心灵境界就是实相般若；
⑤眷属般若：这时候您已经成就了布施度、持戒度、忍辱度、精进度、禅定度，所以，其它五度当下成了般若的眷属，宇宙万法当下成了般若的眷属，所以是眷属般若；
⑥境界般若：这时候您的自心一方面没有妄想，一方面明明白白清清楚楚，同时具备这两点的现前一念、当下一念就是佛境界，所以是境界般若。
关于AI，我记得有一本概论的前言整个就是在讨论“Can machine think?”这个问题，这个问题可以分解成三个问题：什么是机器？什么是思考？怎样算作“能”？到目前为止我所见过的关于AI的讨论没有能超出这三个问题范围的
chatgpt宁犯语义错误，不犯语法错误
说到AI能否理解人类的情绪或者感情的物质基础，有一个问题可以类比：
人与人之间的沟通远高于人与机器的沟通，那么男人能否通过与女人的沟通像女人一样理解月经和分娩的感受？或者反过来女人能够像男人一样理解前列腺病痛的感受？
本帖一共被 1 帖 引用 (帖内工具实现)
但有一个优点，他不装，本色出演。不像某些ID，水平见识赶不上F大师，还非要装成功人士，好为人师，很有喜剧天赋
各种证据尤其心理学，强烈显然人类的情绪成分与智能有着分不开的关系，但显然这不是目前AI发展的主流，甚至是AI从理论上胜过人类的特点，所以这个角度的深入目前没有太多基础，很容易滑入玄学。至少目前理论上没有结论关于人类的情绪感情对于AI发展高级智能是否是个必然条件。
关于最后一段ChatGBT宁犯语义错误不犯语法错误，这倒是很好理解，毕竟寻找下一个词的算法才是GBT等LLM的精髓，而语言中的语法规则是最规范的部分，这方面是语言模型成功与否的最基本指标。 至于语义则全在留给人的所谓“理解”印象，类似图灵试验，对面是什么都蒙着面条件下，对方是否有“理解”，“推理”，“胡编”的能力全在于接收方的判断，但前提是接收方具备高于输出方的智能。 GBT至少达到了这样一个水平，就是其“涌现”能力接近接收方的判断天花板，从接收方（缺省定义就是普通人）角度说，不容易判断GBT是否真的理解，推理或者撒谎，必须借助其他途径与工具，或者接收方自身具备在specific领域中的experty。 所以是否可以100%取信于BGT是一个问题，但GBT达到这个水平本身才是让接收方惊艳的地方。
强调图灵试验与接收方视角，主因还是目前AI的黑匣子现实，因此人类包括心理学哲学领域的灵魂拷问，关于思考的理解等，目前无法在AI上找到着力点，只能处于并行世界一般的轨迹，最后走多远走出什么结果，谁说知道可以直接判断是大神 😁
”会说的不如会听的“。
可以基本肯定GBT对公众开放之后的对话一定会被用于提高GBT，至于具体如何做外人无从知晓，但目测不会是简单的如微软小冰那样被用户”带节奏“完全崩溃那么容易。 这点GBT似乎有过教训，一个新闻中引起我注意的这句话，提到GBT开放前的最大重点是不能几天之内被玩残下线，重蹈许多对话AI的覆辙，现在看GBT这一点还是很成功的，始终保持了政治正确的对话纲领，虽然也有prompt jailbreak的运动，但目前看没有闹出大气候。
不过显然如懒厨所说，真正的互动是互相提问题，而不是审问形式的单方向问答。 这也许是一个未来LLM领域竞争的突破口。目前世界大环境有太多的公众环境政治禁忌，因此这方面门槛自然被拉高，但是谁能早一步跨过谁就可能后来者居上。
找到一个开源简易版GBT，可以在个人电脑上运行，相对于动辄几百万几千万的LLM训练开销，这个模型的训练成本只需要300美元，有的反馈甚至使用中等GPU显卡都可以流畅运行，但是测试结果目前以OpenAI的chatGBT4版为对标，可以达到90%。
一直想找到一款可以自己定制，既保护隐私也能对个人生活提供最大便利的LLM产品，这个周末准备装起来试验一下。
现在有时看着仍在上学的各种年龄的孩子们，有一种彷徨感，真不知道他们成年后的世界里生活工作逻辑会有多大的改变，但肯定的是与我们这代人的逻辑一定有很大的差距，只是福祸未知。
似乎是经济日报的：
内容美国圣地亚哥加州大学医院、史丹福健康照护、威斯康辛州大学医院等三个医疗体系，4月到5月陆续展开前导试验，导入聊天机器人ChatGPT读取病患在网络上提问，为医师草拟回复。医院想借此了解人工智能（AI）能否帮助医事人员节省时间。
华尔街日报报导，圣地亚哥加州大学医院医师米连（Marlene Millen）已在电邮收件匣中测试ChatGPT约一周，她说，AI最开始生成的回复需要大量编修，她和测试团队成员正帮忙改进机器人的回答。米连现在点开病患来讯时，ChatGPT立即根据来讯内容与病患病历摘要，草拟出回复，但同时遵守联邦隐私法规，保护病患资料。
4月稍早就展开试验的圣地亚哥与威斯康辛两个医疗体系，现在都限制AI辅助回复治疗建议。威斯康辛大学医院初步只让ChatGPT协助回应开处方笺、文书申请这类问题。
美国医学会杂志（JAMA）内科医学期刊28日刊出的最新研究则呈先出一些有趣的发现。在回答病患网络提问时，ChatGPT得分比真人医师还高。这项研究是让一组医师“盲测”，在不知道是谁回答的情况下，为列出的答复评分。ChatGPT得到“很好”、“非常好”评分是真人医师的四倍。而回复是否具有同理心？只有4.6%的真人医师回答被评为“具同理心”或“很有同理心”，ChatGPT比率则有45%。
只有顶级的那部分人才还有价值，能为chatGPT升级贡献力量，大部分一般的就要被取代了。