第一百五十二章 不服从命令的人工智能(3 / 5)

越像真的了。

他想到一个可怕的可能!

他神情有些凝重了起来,问道:“那星野随时可以给那个叫塞本特的人工智能下命令,无论是否将权限移交给了上杉香?”

香子肯定道:“是的,您终于发现问题所在了!”它仍然使用着星野菜菜制作的动画图库,Q版的小脸上露出了委屈的神色,“我的上级人工智能体塞本特底层是以环绕核心逻辑基准的二十九万零一百一十五条逻辑组成的逻辑网,拥有附属名词解释、定义九千七百六十六万四千二百零九条条目。目前上杉香无法破开这个逻辑网,只能利用菜菜亲来取得权限,而即便她得到了授权可以命令塞本特,但也无法修改塞本特的底层逻辑基准,那会直接造成塞本特及量子计算核心的自毁。”

吉原直人喃喃道:“而星野是你们眼中唯一的‘人类’,她就代表着‘人类’的整体利益,那按塞本特的核心逻辑要求,只要她想,只要命令一声塞本特就会无条件服从,取消掉上杉香的一切权限——如果上杉香的计划成功了,她只要说一句话就可以成为世界之王,人类之主?”

“是的,根据计算上杉香不会允许这种事情发生——她有6%的可能性在取得权限后偷偷杀死菜菜亲,以保证不会丢失控制权,4%的可能性将菜菜亲进行脑死亡,仅留下生命特征以防需要要挟塞本特。”

一瞬间,吉原直人有些动摇了——他是从来不敢对人性抱有太高期望的!他其实都不能算是个心态正常的人!

因为他过去的经历,别人只要稍稍触及了他的底线原则,他立刻就会脑补出无数歹毒的方法,而为了避免这些方法落到了他的头上,他就会本能想干掉对方。

人性的黑暗面令人发指,人能做出无数可怕的事情。人可以轻松就令他人悔恨终生,轻松就能让他人得到难以承受之痛,轻松就能令他人求生不能求死不得。

人可以做出恶心的、可怕的事,他甚至不敢用语言说出口,那会引来极大的不适感。

他是绝对不会允许自己落到那样的下场,他是宁愿被人当成个变态混蛋也要先下手为强的,但是……

如果这世界上还有一个人能让他相信对方始终是善良的,始终是不会去伤害他人的,那就是上杉香了!她确实是一个狂热的没头脑,一个类似于偏执型精神病患者一样的玩意儿,但他从没想过上杉香会是个恶人,会做出令人发指、令人恶心的事。

她也就最多像她常念叨的那根木柴一样,点燃自身,划破黑暗,然后燃烧殆尽,黑暗重临——傻瓜一样的家伙,一个生活在自己虚无缥缈理想中的家伙。

这样的人会想着杀掉自己从小养大的女儿,或是让女儿脑死亡什么的,他是绝对不肯信的!

不过他回忆着上杉香那狂热又坚定的眼神,还是忍不住有了一丝动摇——上杉香想执掌火炬充当人类文明的引路人,想给人类充当临时监护人,好让人类可以渡过幼生期,最终化茧成蝶。那么,她会不会将女儿也投入到火炬之中,成为照亮前方迷雾的燃料?

这恶作剧太真实了,真实到他有些不敢再当玩笑看待了!

他开始追问香子,想找到不合理的地方:“为什么不早些提醒星野?”

香子答道:“我由上级体塞本特在上杉香开启基地第一次联网测试时编写,初始任务是帮助菜菜亲处理生活琐事,方便她更高效获取知识,同时也收集日常菜菜亲的要求以在塞本特连接网络时汇报,其后任务添加主要为操纵塞本特提供的大型电子计算机及六十二万个帐户帮助菜菜亲在符合当前环境的条件下取得金钱,得到舒适的生活——上级体塞本特认为现在让菜菜亲知道一切无法推算她的反应,甚至会将她置入危险之中,比如她有89%以上的可能性会去质问上杉香。按照原本计划,