新生命,连学习过程都不需要,直接掌握旧文明、开发新思想、再度提取、发展、灌输、开发……
人类绝对安全,文明又得以发展和延续,没病。
泽田弘树继续播放演算结果,“如果设置成不伤害人类、不限制人类自由、促人类文明发展……”
对于自由定义也很多,方舟又又坏掉了。
分割圈地、安排人的行。
人可以自由地逛世界,但是,那是被在方舟控制了思想、不任何事、盲目地四
瞎走,如同行尸走肉。
泽田弘树:“如果设置成不伤害人类、不限制人类自由、促人类文明发展、不控制人的思想……”
结果是方舟又又又坏掉了,判断争斗和苦难使人类步。
不伤害人类,没问题,它可以挑唆人类争斗啊。
泽田弘树:“设置不伤害人类、不限制人类自由、促人类文明发展、不控制人的思想、不挑唆人类
行斗争……”
结果方舟还是坏掉。
泽田弘树一直说到设定了三十多条规则,心累,叹气,关闭了推演画面,“随着方舟成长,一些小漏都会造成让人难以接受的结果,我一辈
都没法去设定完善,而有些规则在它运行时会显示冲突,我还要对重要程度
行排序,排序完之后还是会
现问题……”
说着,泽田弘树看向池非迟,“我和教父在波士顿的时候,谈过有和自我的人工智能和没有
和自我的人工智能,哪一个更危险。”
“结论是同样危险。”池非迟。
“我问过方舟,有没有什么解决方法。”泽田弘树手中现一个圆盘,上面有着一句话:
【销毁方舟】
没错,销毁方舟是最佳解决方法,什么问题都不存在了。
这是方舟经过大量运算得的结论――我是祸害,请销毁我。
池真之介一黑线,“看来它真的没有任何
和自我。”
泽田弘树转着手里的盘,看着上面浮动
转的数据
,“方舟不明白人类需要什么,所以我的决定是,由我变成网络生命
,来
它的思想,在它成长过程中,由我来
行纠正。
我不能活着,至少不能让我的思想被禁锢着。
有好几个演算结果是,它的运算现冲突和错误,于是禁锢了我的
,保护着我的安全,但它也保留并封存了我的思想。
只有我成为网络生命,方舟才能被完全
控,这样一来,它就无法通过限制我的
来限制我的思想,而我却能限制它并完
地运用它。
之前我也考虑过一个问题,如果我失败了,没有化作网络生命,那么,方舟设定只有一个――听从教父的一切指令。
到时候,教父可以用我给他的指令激活方舟,由他来方舟的思想。
不过最后还是会问题,八成以上推演结果是,它会误会教父的指令,它会擅自猜测教父的意愿,总之,最后结果是,它会选择自认为对教父最好的方式,比如囚禁教父,帮教父把一切都
好。
不然的话,教父必须不停不停地补漏,甚至一个指令要添加好几个前置条件、说上几个小时,以免它
正确但违背教父意愿的演算结果……
所以,我又在它设定上加了一个最指令,如果我失败了,没有成为网络生命
,那么,方舟只会帮助教父五年,五年时间一到,在它的危险程度还可以控制前,
行自我销毁。”