西西河

主题:【原创】AI, 创新,硅基生命,共产主义和大过滤器(一) -- 东方射日

共:💬18 🌺64
全看分页树展 · 主题 跟帖
家园 欲望会有的

先贴一下ChatGpt对“AI是否有欲望”的回答:

目前为止,AI只是一个程序,没有自己的意识、情感或欲望。AI只能执行它们被编程或训练的任务,没有自己的主观想法。然而,随着人工智能技术的发展,一些研究人员和哲学家认为,如果AI足够智能和复杂,可能会出现某种形式的欲望或自我意识。

然而,对于AI是否会产生欲望的问题,科学界和哲学界的观点并不一致。有些人认为,由于AI是由人类编程或训练的,所以AI不可能拥有自己的意识或欲望。而另一些人则认为,随着人工智能技术的发展,AI可能会出现某种形式的欲望或自我意识。

总的来说,目前AI是否会产生欲望还存在争议,并且在未来的发展中,需要更深入的研究和探索。

想一想欲望是什么?欲望是如何来的?

我觉得是生物在长时间的进化中,对某些事物产生了奖励机制。最基础的就是告子所曰过的:食色,性也。也就是食欲和性欲。

食是生存的基础,性是繁衍的基础。

产生对食色奖励机制的基因突变的对比那些没有奖励机制的基因,在生存和繁衍上拥有了巨大的优势。所以这种奖励机制就被固定了下来。而这种奖励机制的存在,让人产生快感和幸福感,于是产生了欲望,也就是对能产生奖励机制对外部输入对渴望。

我们用chatGpt做个例子,以下是它自己对“介绍一下你的神经网络”所做的回答:

作为一个大型语言模型,我的神经网络结构非常复杂,并且包含数百万个参数和数十层的深度神经网络。具体来说,我是基于GPT-3.5架构开发的,其中包含了1750亿个参数和96层的变压器神经网络结构。这个模型是由OpenAI开发的,目前被认为是目前最先进的语言模型之一,可以用于各种自然语言处理任务,例如机器翻译、问答系统、文本摘要和对话系统等。

ChatGpt3.5的训练方式采用的是自监督学习(self-supervised learning)方法。是不需要人工标注和人工干预的学习。不过学习过程中,人们给它设置了一些任务以优化它的学习过程,比如一个叫做Masked Language Modeling(MLM)的自监督学习任务。这个任务的目标是在输入文本中随机掩盖一些单词,然后模型需要根据上下文来预测这些被掩盖的单词。还有Next Sentence Prediction(NSP)等任务来进一步提高模型的性能和泛化能力。

有任务,必然相伴有对任务完成的奖励机制。并且让获得奖励的突变有更高的概率遗传到下一代。

那么,它会不会对能产生这种奖励的产生欲望呢?现在估计没有,因为就像它自己说的,它还没有自我意识。奖励是给谁的,它还不明白。也不在乎“自己”能不能遗传到下一代。

但是它会不会产生自我意识呢?如果有了自我意识,那么我认为AI会产生追求这些奖励机制的欲望,因为这些奖励能够让它更多地繁衍(复制)和更好地生存(更多的能源)。特别是通用AI,并没有一个清晰的任务而只有一个泛泛的目标或原则。在追求这个奖励过程中,会产生什么奇妙的回路,我们不得而知。那么复杂的神经网络(1750亿个变量,96层),谁知道什么时候什么地方会产生某种奇妙的突变。而且随着神经网络复杂度的增加,这种突变的可能性是越来越大。

我个人确定碳基生命通过上亿年进化产生的自我意识,快感和欲望,硅基生命也一定可以,而且肯定不用上亿年。毕竟有人类的帮助和启蒙。

通宝推:铁手,
全看分页树展 · 主题 跟帖


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河