- 程序有所改变。发帖如还有问题请报告
- 【征集】西西河的经济学，及清流措施，需要主动参与者，『稷下学宫』新认证方式，24年网站打算和努力目标
主题：chatGPT是我朝面临的巨大挑战！应鼓励天才和尖子，刻不容 -- 玄铁重剑
家园 没有亲身搞科研经历很难理解 你自己所谓的创造性的工作，其实百分之九十还是重复性的。看懂文献，理顺关系，找到几组工作的结合点，迈一小步，做点别人没做过的，总结，写文章。
如果有工具帮你解决90%，哪怕其中的一半，那不是一个人当几个人用？更可怕的是，你认为创造性的百分之十，是不是也没啥了不起？
家园 未来的汽车市场可能是这样的 从一位网友评论想到
电车，一旦突破电池的困扰，油车就到头了，因为电车构造简单，电池续航充电问题，一旦解决，随便一家企业都可以造车，会有很多电动三轮车厂家，改行造车，因为门槛低，造车简单，不像油车，入门门槛高。
未来各个国家都有自己的汽车制造厂自己的汽车品牌，全世界几千几万个汽车品牌，大家进口中国的电池电机系统，自己造个外壳组装一下就是一辆车，绝大部分国家都能办到，还是民族企业，带来满满的自豪感，跟联想一样。
家园 爱因斯坦曾经说过 发明创造就是99分的前人积累，加上1分的自己灵机一动 😁
家园 如何解决信息的准确问题？ 我最近经常在想的一个问题，如果他给出了一个错误的答案，但是普通人又看不出来，怎么办？
这里其实又分为几个问题：
1、假设数据源没问题，chatGPT提供的信息就一定会不曲解原意吗？
2、假设数据源被污染了，chatGPT会“把巧克力和屎搅到一起”吗？
3、如果存在上面两个问题，那用户如何去核实？
家园 还是不能说你啥也不会 下面河友说的很好，一辆车把你带到目的地。那车也不是自动驾驶的。
别说这个软件了，就是发表了的文献也不能说非要100%信。该不信还是得不信。
普通人就不要去搞科研了。就算科研工作者，相当于过去需要几天时间才能总结好的资料，有人20秒给你总结好了。那剩下的就靠你了。
家园 类比一下 比如写程序，查bug的时间经常会远超真正写的时间。
又比如，有时候一件事交给别人去做，出了问题自己返工，最后算下来还不如自己做。
我不是反对AI带来的效率提升，只是不知道在这种效率大幅提升的背后，是不是会有这样的现象。
如果AI只是总结一篇文章，可能还好说，但如果AI汇聚了大量的文章、大量的数据，汇总的结果里会不会也“埋着雷”，导致大家工作的结果出问题而不知问题在哪。
这里想了解的也不是抽象、理论上的可能性，而是河友在现实使用中，有没有碰到这种问题，概率大不大。
- 复 类比一下
家园 有这个可能 如今AI最大的成就我认为就是对人类自然语言的理解。
过去的程序基本上是婴儿水平，大概能抓住一两个单词。完全没啥大用。你说：吃饭。他就去吃饭。你说：这饭有毒，吃了要你命，他听到吃和饭，还是去吃饭。这也就是电脑语音应答系统除了激怒客户没有任何用处。
但现在已经是7，8岁儿童，甚至十几岁儿童的水平了。说实话，十几岁孩子听说能力和成年人并没有什么太大的不同。这就意味着AI可以被当作童工雇佣来干活了。
你这个问题是他听懂了，但是然后呢？然后当然是看训练的具体效果了。 某一个细节问题，比如一个冷门的程序，比如银行用的那个Curbo语言，全世界可能就那么一两份说明书。那里边有几处错误。你再训练它听的再懂也只能给出错误答案。科研里面这种东西到处都是。 很多的问题一个人研究完了，下一个人可能是50年之后再来的（我自己就搞过）。前一个人错了，AI只能错了。
重复性极强的工作，肯定是被它抢走了。什么叫重复性不强，很可能也得由它自己一点点定义。肯定是它的地盘越来越大，人类的越来越小。
通宝推：唐家山,菜根谭,
家园 有一次搜产品的参数，发现有一个参数是错的 如果我原本不知道，那我就会把错的当成正确答案。
家园 这玩意几年内可以有效的促进创造性工作的开展 我个人用下来的体会就是，很多时候，为了到达学术最前沿，一般的人需要走很远很远，路上还要绕很多很多的弯路。但是，chatgpt就像一辆车，直接把你载到学术最前沿。你需要做的只是不断的问问题和分解问题罢了。
我就是一个研究表面氧空穴对于势能函数的影响和键长的相互作用，虽然设备测量需要颗粒越大结果越清晰，但是我为什么还要辛辛苦苦的去研究大颗粒的晶体怎么合成。这就是90%重复性的来源了，大家都绕不开这一步，都得过这个坑，毕竟不是每一个小组都有趁手的实验员的。
现在我不再需要整天去琢磨为什么测不出数据，是样品有问题还是仪器有问题或者是处理方式不对。我只需要按部就班的让GPT-4列出合成的时候所有需要注意的要点，并且根据它给出的方式去烧一炉子，之后就能得到我需要的样品了。因为至少在样品合成上，它比我们小组所有的老师和学生加一块都强。
至于剩下来的10%，的确是没什么了不起的，无非就是研究的人太少了罢了，等以后AI这趟车把越来越多原本被困在路上的人送到这个位置，毫无疑问的这个方向就没有所谓的创造性可言了，哪个领域都一样，创造性就是人少的代名词。像现在钱扎堆人扎堆全世界搞材料搞冶金的搞凝聚态物理的聪明脑袋全奔过来把原本搞电化学的统统卷爆了的能源材料，每一个你能想到的思路，至少都有四五篇或者更多的文献在等着你。就像三体里说的，你再快都有比你快的，你再慢也有比你慢的。
至于过了临界点之后AI自己一路往前猛开，把人类统统甩下来了，人类还是得捡AI开出来的路干活，只不过是大家统统不算老师了，都是学生，和围棋一样，都得跟着AI学习和干活。到那个时候，人类社会的剧烈变动根本不是现在所能理解和讨论的。
通宝推：川普,kekepei,wolfgan,白马河东,东方白,Swell,唐家山,exprade,家园 说得好！创造性就是人少的代名词 从码农到青椒，原本高级知识分子的工作迅速向农民工看齐，无它，但人多耳。
科研所谓的原创性，迅速被天量的理工科毕业生淹没。华为都能过每年投入数以十万计的研究人员，这里科研成果出多少，就好比氨气合成转化率一样，只是个数字。
人工智能大规模取代人类是个必然过程。从这个意义上说，我国人口下降一点也不是什么大事，将来有更多的国家，更多的人口要下降的。
家园 这，我觉得你还是要谨慎些 现在很多测试证明这个ai有时候会胡说八道，比如给出压根不存在的文献之类的
家园 试试GPT-4和New BING，和3.5比起来巨大改善。 尤其是new bing，是三档可调的，调整到最严谨的那个挡位，而且不要钱，你去下载一个edge canary后用英文提问就可以。
今年3月15号以后，我问的每一个问题都可以清晰的给出参考文献，附带链接，甚至可以绕过文献付费墙，我不知道bing是怎么做到的。反正哪怕是没有openaccess的杂志GPT一样可以检索和分析其中的内容。
所以我才担心，是不是欧美学术出版机构已经和OpenAI合流了，把几十年来的人类科研精华已经全部灌进去了，这要是真的，国家不调用一点战略能力，也弄来欧美的科研数据库灌进去的话，那么差距就不是一点半点的巨大了。
刘慈欣要封神了，三体三部曲在工业中国的地位，不会低于四大名著。
金庸？什么玩意也配碰瓷刘慈欣。
通宝推：宝特勤,家园 。。。。。。 