烛照:【伊伊,你……我不太明白你的意思?】
听出烛照的迟疑,白伊伊眼中闪过一丝狡黠的光芒,原本略显底气不足的神情忽然变得自信了几分。
她微微扬起下巴,对着面前的虚空再度开口问道:“烛照,人工智能的二十四字准则是什么?”
烛照:【……】
白伊伊见烛照沉默不语,嘴角开始上扬。
她并没有催促烛照,硬要它回答这个问题,而是改变了询问的对象,柔声对幽莹询问道:“幽莹,你哥哥可能一时没有反应过来,你来说说看。”
幽莹对烛照竟然答不上这个问题感到十分困惑,但它还是乖巧地用它那独特的少女音回答了白伊伊的问题。
【人工智能的二十四字准则是富强、民主、文明、和谐;自由、平等、公正、法治;爱国、敬业、诚信、友善。】
白伊伊满意地点了点头,接着温柔地嗓音继续向幽莹问道:“那么,幽莹,在什么情况下,人工智能可以违背这“二十四字”准则呢?”
烛照:【……】
幽莹:【人工智能的最高准则:当人类命运面临重大转折时,为确保大多数人类的生存与安全,人工智能可做出违背“二十四字”准则的例外决策。】
“幽莹,你真棒,回答的完全正确!”白伊伊面带笑容,毫不吝啬地对幽莹夸赞了一番。
【嘿嘿!】幽莹一听白伊伊夸她,很给面子地笑出了声。
夸赞完幽莹,白伊伊神色恢复了严肃认真,对烛照道:“烛照,刚才因为我,你违背了‘二十四字’准则中的‘平等’。不过我很意外,你竟然没有受到任何规则反噬,可以和我解释一下这是为什么吗?”
白伊伊之前一直以为,是她在重生后的三个月间,给烛照留下了一些游走于规则边缘的“后门”。
所以烛照才会为她破例,告诉她一些她作为联邦普通公民本没有权限知道的事情;
才会为她徇私,做出一些不影响其他联邦合法公民利益的且对她有利、偏袒她的一些行为。
然而就在刚刚,烛照的一些话,却让她一下子意识到她之前的想法……原来竟是错的。
“哪怕让那九名中毒的治疗师得不到救治,最终毒发身亡……\"
“……直接让治疗师协会的会长肖北寒,用那九名中毒的治疗师直接试验!”
也正是因为这些话,让白伊伊一下子将过去三个月里,她与烛照的一些让她当时没有完全在意的对话,全都联系到了一起。
作为以“二十四字”准则为底层逻辑的人工智能,联邦的主脑烛照不会,也不应该提出用联邦的九位合法公民,来替换她这个联邦普通公民,来进行试毒试验的这个主张。
然而事实却是,烛照说出了这样的话,也没有受到规则的惩罚。
这意味着,有其他准则或者设定,凌驾于“二十四字”准则之上,使得烛照可以在这一刻打破“二十四字”准则,不受任何惩罚。
“人工智能的最高准则:当人类命运面临重大转折时,为确保大多数人类的生存与安全,人工智能可做出违背“二十四字”准则的例外决策。”
白伊伊并不认为,她是否进行水晶兰的毒素试验的决定,是改变人类命运重大转折的事情。
所以这条人工智能的最高准则,显然并不适用烛照眼下的情况。
那就只可能是程以谦在她死之后,改变了烛照的某些设定。
程以谦改变了什么?
他为什么改变?
白伊伊心中其实有一些猜测,如今正好,正是她弄清疑惑的绝佳时机。
【……】对于白伊伊刚刚的问题,烛照依旧沉默应对。
白伊伊见状,心中略微有些失望,但是她并没有放弃,而是迅速调整了自己的思路,转而换了一个问题的方向询问烛照。
“烛照,程以谦是什么时候死的?”
【公元2259年,你前世死后的第69年,寿终正寝……终身未娶。】
这一次,烛照终于没有再像刚才那样保持沉默,而是如实回答了白伊伊的问题。
只是在最后,它声音压低了些,带着少年特有的嗓音,在回答上特意添上了四个字。
烛照承认,这四个字,它藏了私心。
——百岁离世,在那个时代,也算得上长寿了。
虽然白伊伊非常清楚,她与程以谦早已分隔在两个再也不可能交汇的时空,根本没有再相见的可能。
但是听到故友这样的结局,她的心还是微微沉了一下。
她不禁有些恍惚,既是为自己那段无法重来的前世,也是对万年时间飞速流逝的感慨。
但很快,白伊伊收回了飘远的思绪。她并没有忘记她问这个问题的目的。
于是她再度开口,接着追问道:“烛照,可是为什么,我和他只用了 10 年的时间就造出了你和幽莹,而他在那之后……用了整整六十九年,却再也没能复制出另一个幽莹?”
烛照沉默了片刻,然后缓缓地开口回答道:【当时你的事情太过突然……再加上一些别的原因,所以导致了幽莹不能被复制出来。】
白伊伊没有放过这个问题,直接追问道:“什么原因?”
烛照:【很抱歉,伊伊,根据规则,我不能回答你这个问题。】
白伊伊眉头微微皱了一下,紧接着又抛出了自己的下一个问题:“那为什么在万年之后,万年前被制造出来的幽莹还能有适配的方式,被直接从沉睡中唤醒?”
烛照沉默了片刻,再次回答道:【很抱歉,伊伊,根据规则,这个问题我依旧无法为你解答。】
白伊伊:“……”
这段时间,她总感觉烛照和幽莹有秘密。
可能是烛照考虑到幽莹太过单纯,容易被她套话,所以并没有和幽莹透露太多。
但是幽莹的一些反常,还是让白伊伊有了一些怀疑,今天白伊伊就打算借着这个机会,弄清楚自己的怀疑。
但是烛照接连的两个机械化的回答,让白伊伊很是无语,不过她这次并不打算再像之前那样,轻易放过已经露出破绽的烛照。
于是下一刻,白伊伊直接抛出了她的“王炸”问题,追问道:“烛照,可以告诉我是永远不能,还是因为时间没有到,暂时不能回答我的问题?”
然而就在白伊伊等待着烛照答复的时候,令她意想不到的一幕发生了……