关灯
护眼
字体:

第八四七章 保险

首页书架加入书签返回目录

请安装我们的客户端

更新超快的免费小说APP

下载APP
终身免费阅读

添加到主屏幕

请点击,然后点击“添加到主屏幕”

>
    因而无法天然规避任何内部破坏。

    即便这种破坏,站在方然、或者普通民众的立场上,并没有任何理由,也没有任何动机,也不能一概掉以轻心,甚至认为根本不可能。

    这一点,早在萌生退意、计划在适当时间辞去“管理员”职务,并永久性的将这一职位注销时,方然就想过很多,首先,管理员的职位,是不能留,并非他不相信任何人,而是未来世界并不再需要这样的一人决策之体制。

    其次,如何才能确保在自己离任后,人类文明的长治久安。

    一个人,生活在文明2.0时代,会有什么理由去破坏现有体制,方然委实想不出来,但,他也没有以己度人、直接摈弃这种可能。

    不管出于什么动机,一切妨害、破坏乃至颠覆文明现存秩序的行为,都必须有所防范,为此,在接受“意识迁移”之前,方然对“盘古”下达指令,由这一强人工智能负责净土的总体框架,管理社会的方方面面。

    而人类,在这一框架内,拥有近乎完全的自-由,唯有一件事是无法做到的,

    那就是修改“盘古”的核心逻辑。

    拒绝人为修订,这种措施,是可以一劳永逸的杜绝风险,同时也会断绝强人工智能的改进升级之可能,似乎是很不明智的策略。

    不过,方然的本意并不是这样,他没有命令“盘古”拒绝一切外来的改进、重构等指令。

    之所以出现这样的情况,原因,一点也不复杂,人类无法跟上强AI的思维,就是其绝对无法改进“盘古”根本障碍。

    改进,对一切人造之物,似乎都是很寻常的操作,即便功能已臻完美的机器、系统,总归也可以因人的需求变化,甚至只是主观好恶,而进行一系列的改变。

    但是对“盘古”这样的强人工智能,情况就完全不同。

    “盘古”,脱胎于原NEP大区的“强人工智能研发项目”,一开始必然是人类设计、建造与运营,并长期听从管理员的号令,从这一角度,可以说,功能强大的“盘古”与寻常人造之物并无区别,

    一切都可以由人类决定。

    但是,与过去一切人类创造之物不同的,是其具有“某种切实存在的自我思维”。

    正是这种思维,赋予了“盘古”与众不同的强AI特质,不仅可以解决一般计算机系统能解决的问题,

    还能创造性的探索、研究,解决陌生的新问题。

    这种能力,或者说,栖居着这种能力的系统,虽然是人一手打造,在开机、持续运行后,却已经事实上脱离了人类的掌控,岂但无法更改(除非断电),就连稍微解析并理解其内部的运作机理,

    都完全是一种痴心妄想。

    这方面,早在西历十六世纪初,当时的盖亚净土相关机构就有过报告。

    当时的“盘古”系统,不论算力、还是预测的“自我意识”深度,都和今日不在一个量级,即便如此,研究者们仍推算,要想切实理解、掌握其一天的工作量,

    哪怕忽略转移、解析过程,单组织人力去理解,都需要至少十万人年之巨。
上一页目录下一章

请安装我们的客户端

更新超快的免费小说APP

下载APP
终身免费阅读

添加到主屏幕

请点击,然后点击“添加到主屏幕”