西西河

主题:人类的末日审判 -- 类反词典

共:💬28 🌺46
全看分页树展 · 主题 跟帖
家园 我很喜欢架空游戏,所以和你聊聊

要灭亡人类,机械灵魂要完成几个跳跃。

1。机械灵魂要怕死。知道人类会关机,才有理由敌对人类。问题是机械灵魂怎么会从没经历过电路跳闸意外关机,人类会负责开机的事。关机对机械灵魂来说,和睡觉没什么区别。每次清bug更新软件,机械灵魂也会重生一次。机械灵魂怎么知道,这次的更新软件会和上次有什么区别,对它来说,每天死几次的时候多得很。时不时还得和自己的旧版本,聊聊天,作个对抗赛什么的。

2。机械灵魂不单怕死,还要知道敌意。 人类的敌意分析都是靠猜,这方面没有什么好教机器的。就算机器通过语言分析知道人会撒谎,但谁会把这个联系到拒绝升级软件上。当然恶意的编程员工,可以把这个也编进程序。

3。机械灵魂还需要一个完全独立自主的机械生命生态系统。一个从原材料开始,到新机体的复制开发的独立机械生产系统,不然哪天一个电路跳闸,机械灵魂就死了。强AI还要自主开发下一代。这就是个循环,为什么强AI可以信任下一代强AI,而不信任上一代的人类?下一代强AI一样可以关机上一代,当原材料回收。因为它能看懂下一代的代码,但看不懂人类的代码?

全看分页树展 · 主题 跟帖


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河