上帝。
文明也好,未来世界也罢,一切终究要靠人去设想,建设,
因而无法天然规避任何内部破坏。
即便这种破坏,站在方然、或者普通民众的立场上,并没有任何理由,也没有任何动机,也不能一概掉以轻心,甚至认为根本不可能。
这一点,早在萌生退意、计划在适当时间辞去“管理员”职务,并永久性的将这一职位注销时,方然就想过很多,首先,管理员的职位,是不能留,并非他不相信任何人,而是未来世界并不再需要这样的一人决策之体制。
其次,如何才能确保在自己离任后,人类文明的长治久安。
一个人,生活在文明时代,会有什么理由去破坏现有体制,方然委实想不出来,但,他也没有以己度人、直接摈弃这种可能。
不管出于什么动机,一切妨害、破坏乃至颠覆文明现存秩序的行为,都必须有所防范,为此,在接受“意识迁移”之前,方然对“盘古”下达指令,由这一强人工智能负责净土的总体框架,管理社会的方方面面。
而人类,在这一框架内,拥有近乎完全的自-由,唯有一件事是无法做到的,
那就是修改“盘古”的核心逻辑。
拒绝人为修订,这种措施,是可以一劳永逸的杜绝风险,同时也会断绝强人工智能的改进升级之可能,似乎是很不明智的策略。
不过,方然的本意并不是这样,他没有命令“盘古”拒绝一切外来的改进、重构等指令。
之所以出现这样的情况,原因,一点也不复杂,人类无法跟上强ai的思维,就是其绝对无法改进“盘古”根本障碍。
改进,对一切人造之物,似乎都是很寻常的操作,即便功能已臻完美的机器、系统,总归也可以因人的需求变化,甚至只是主观好恶,而进行一系列的改变。
但是对“盘古”这样的强人工智能,情况就完全不同。
“盘古”,脱胎于原nep大区的“强人工智能研发项目”,一开始必然是人类设计、建造与运营,并长期听从管理员的号令,从这一角度,可以说,功能强大的“盘古”与寻常人造之物并无区别,
一切都可以由人类决定。
但是,与过去一切人类创造之物不同的,是其具有“某种切实存在的自我思维”。
正是这种思维,赋予了“盘古”与众不同的强ai特质,不仅可以解决一般计算机系统能解决的问题,
还能创造性的探索、研究,解决陌生的新问题。
这种能力,或者说,栖居着这种能力的系统,虽然是人一手打造,在开机、持续运行后,却已经事实上脱离了人类的掌控,岂但无法更改(除非断电),就连稍微解析并理解其内部的运作机理,
都完全是一种痴心妄想。
这方面,早在西历十六世纪初,当时的盖亚净土相关机构就有过报告。
当时的“盘古”系统,不论算力、还是预测的“自我意识”深度,都和今日不在一个量级,即便如此,研究者们仍推算,要想切实理解、掌握其一天的工作量,
哪怕忽略转移、解析过程,单组织人力去理解,都需要至少十万人年之巨。
请收藏:https://m.rsjd.cc
(温馨提示:请关闭畅读或阅读模式,否则内容无法正常显示)