永不下车 第三八九章 池鱼

到那时不论计算机（无意间）对人做了什么是当做有趣的东西豢养还是当做碍事的垃圾清除对人而言决定生死的际遇在计算机而言却只是“城门失火殃及池鱼”里的——水连鱼都算不上。

城门失火因灭火而取水最终导致鱼的死亡人至少还看得到这一点。

然而人类开路劈山挖矿掏洞时会有这样的思想觉悟觉得自己的所作所为正在颠覆、灭绝矿物分子的大千世界吗。

当然不在（自以为是）的人眼里矿物岩石根本就是没有思想的“物”；

那么在计算机眼里人很可能也是一样的“物”。

这才是某意味深长之句的真正意味：

毁灭你与你何干。

……

梦中醒来耳边是闹钟乐声黑暗中的男人抬手抹一把额头冷汗涔涔。

起床洗漱坐下来食用“高级肥皂”准备投入新一天的忙碌吃早饭时的片刻闲暇方然还是忍不住想起那一切。

事态比自己之前所想还要更严重。

事关计算机人工智能乃至计算机ai的自我意识原本他一直以为只要不主动研发“具有自我意识”的人工智能计算机系统对人而言就是安全的永远只能作为一种工具、而不会成为一种威胁。

但现在不经意间的深邃思考却让方然窥见了其中的莫大危机。

当能力发展到一定程度或许是出于“创造性研究”之目的或许是出于其他动机计算机的算力、能力突破了上限继而达到能完全取代人的程度不管这系统一开始的目标有没有包含自我意识那样的计算机其行为都将彻底失控。

那时的计算机庞大体系内的算法究竟是在进行一些什么样的运作恐怕是人类绝对无法洞悉的深奥。

继而对那样的存在一切人类已有的概念与手段都未必会起作用。

借用教义的词汇在自己一手创造出的神祇面前人的手段又怎可能还会有任何的用处。

只因到那时那样的计算机系统将会是盖亚表面的一种前所未有之存在是生命演化链条被人为截断之后藉由完全不同之另一条路线而诞生的更高等、更先进、更强大的新物种演化天梯上比人更高一阶的存在。

面对那存在人类对抗计算机恰如猴对抗人类又哪会有一丝一毫的胜算。

危险莫大的危险潜藏在计算机的发展脉络之中。

并非第一次接触这样的断言此时此刻置身于天堂镇的地下世界恒温恒湿的房间里方然却有点浑身发冷很不舒服。

他头一次意识到若干年前流传于联邦、乃至世界的那些警示确有意义。

虽然在自己看来危机的实质与发出警讯的诸多名人所言并不尽一致但指向的最终结局却大同小异：

人类的灭亡。

警讯关于计算机、ai的警讯曾在人类世界广为流传也引发过巨大争议。