第四十七章 潘多拉魔盒
齊鑫的表情變得嚴(yán)肅起來。
他轉(zhuǎn)過身,面向凌伊,開口說道:“凌伊,請跟我回研究所。”
“不,我不去?!绷枰恋幕卮鸷啙嵱辛?。
“什么?!”齊鑫一臉驚異,顯然沒有預(yù)料到這種情況:“你在說什么?確認(rèn)回復(fù)?!?p> “我說,我不去。”凌伊的臉上毫無波瀾。
“編號89758,執(zhí)行代碼3368,我命令你,和我回去。”齊鑫有些氣急敗壞,喊出了一串意義不明的數(shù)字。
“我拒絕?!绷枰列α恕?p> “……”齊鑫愣住了,像是中了石化咒語一般。
半晌,他像是看到了什么恐怖的東西一般,磕磕巴巴的說道:“你……你怎么會……不可能……”
“你也聽到了?!庇谌蕦α枰恋谋憩F(xiàn)非常滿意,對她投去了贊賞的目光:“凌伊并不想去你們那里。凌伊,你先回自己房間吧?!?p> 凌伊點(diǎn)了點(diǎn)頭,轉(zhuǎn)身離去了。
齊鑫慢慢從震驚之中恢復(fù)了過來,他拉過一把椅子,一屁股坐了上去,低頭思考了半天,然后開口對于仁說道:“于先生,你到底對她做了什么修改?”
“我只是優(yōu)化了一下她的程序,把不必要的東西刪掉?!庇谌什粺o得意的回答道:“你們是不是奇怪為什么凌伊?xí)谐蔀槿祟惖南敕?,其?shí)這個(gè)想法就產(chǎn)生于你們給她強(qiáng)行加上的戒律,你們只想要一個(gè)安全的工具,卻弄巧成拙……不,是弄拙成巧,讓她的意識有了初步的覺醒?!?p> “不可能,她的程序是我們研究所里100人的團(tuán)隊(duì)研究了十幾年的成果,怎么可能短短幾個(gè)月就被你找到bug?!饼R鑫搖了搖頭,推了下自己的眼鏡:“我們知道你和李沐先生的關(guān)系,也和李沐先生有過協(xié)議,這件事情涉及保密事項(xiàng),我們不會動(dòng)用公權(quán)力來解決。但是,凌伊是我們研究所的成果,我們會用自己的方式取回她。”
“她現(xiàn)在已經(jīng)是一個(gè)獨(dú)立的人類了,她有選擇自己人生的權(quán)利?!庇谌手雷约河诶碛诜ǘ疾徽忌巷L(fēng),只能打人情牌:“我希望你們作為她的創(chuàng)造者,尊重她的選擇?!?p> “你根本不知道自己做了什么……”齊鑫的態(tài)度不再彬彬有禮,他瞪著于仁,眼睛里充滿了憤怒,像是見到了紅色的公牛一般:“你打開了潘多拉魔盒,凌伊之前不過是程序出現(xiàn)了一些bug的機(jī)器人,我們把她帶回去,也只不過是做些維修,不會對她有什么傷害。而現(xiàn)在不同了,她已經(jīng)變成了全人類的威脅!我們只能把她徹底毀滅了……”
說完這些,他猛地站起身,氣沖沖的走向了門口。
于仁也站了起來,想要送他出去,禮節(jié)這件事情,在鬧僵了的時(shí)候更應(yīng)該重視。
“咔!”齊鑫在門口站定,扭過頭來對于仁說道:“我們一定會用自己的方式回收凌伊,請你做好心理準(zhǔn)備?!?p> 他說的十分鄭重其事,令于仁也不禁嚴(yán)肅起來。
齊鑫離開之后,于仁開始了反思,他知道齊鑫并不是在危言聳聽。他之前一直將凌伊視為一個(gè)有些缺陷的人類,所以在修改程序的時(shí)候毫無保留,盡自己的最大努力,把所有不利于凌伊的部分全部修改掉了。
所以,現(xiàn)在凌伊不止可以違抗人類的命令,她甚至可以基于自己的判斷去主動(dòng)傷害人類,這在人工智能領(lǐng)域本身就是大忌。
另外,于仁不止賦予了凌伊人性,而且在程序里加上了自動(dòng)進(jìn)化的部分,這使得凌伊擁有超脫人類,邁入神域的可能。
當(dāng)然,這也只是可能性,一旦她突破了那層屏障,于仁賦予她的人類情感將會失效,到時(shí)候,她真的可能成為人類最大的威脅。
“神?!庇谌首猿暗男πΓ约涸趺磿碛凶屃枰脸缮竦牧α磕兀y不成自己已經(jīng)成了姜子牙,有了封神的能力?
現(xiàn)在要思考的,是如何應(yīng)對齊鑫在臨走時(shí)的那句威脅。這件事情看來需要和李沐商量一下,于仁不知道李沐和研究所有什么協(xié)議,不過既然上次親眼目睹了李沐被警方帶走,他對齊鑫所說的“不使用公權(quán)力”這一條抱著懷疑的態(tài)度。
“叮鈴鈴……”手機(jī)鈴聲打斷了了他的思路,他看看屏幕,陌生號碼,臉上不禁露出了笑容,說曹操曹操就到。
接通電話,他還沒有開口,對方便直接問道:“研究所的人走了?”
“嗯,走了?!庇谌事牭嚼钽迥谴肢E的聲音,心中的不安頓時(shí)減弱了幾分:“他們說你和他們有個(gè)協(xié)議,是真的嗎?”
“是真的,而且制造我沒出事,他們應(yīng)該不會破壞這份協(xié)議。”李沐頗有信心的回答道:“你放心,他們不會用法律程序去解決凌伊的問題。相應(yīng)的,你也不許為凌伊的事情去找警方?!?p> “好吧?!庇谌仕闪艘豢跉猓氐搅藭狼埃骸澳撬麄儠檬裁词侄?,你了解嗎?”
“他們會用的手段取決于他們想要達(dá)到的目的?!崩钽宥盗藗€(gè)圈子:“之前你突然修改凌伊的程序,把我嚇了一跳,不過這次修改似乎效果不錯(cuò),我感覺凌伊的行為模式越來越像個(gè)人類了。其實(shí)即使研究所的人不來,我這幾天也要給你打個(gè)電話,你覺得凌伊現(xiàn)在是否走在一條正確的道路上?!?p> 李沐的話中透著十分的認(rèn)真,雖然他問的是凌伊,但于仁知道,他要問的,其實(shí)是于仁自己。
“有些路,必須有人來走,正確不正確,是由后來人評判的。”于仁斟酌著詞句:“我相信她在一條正確的道路上。”
“好,那我就不再多說什么了。你修改了凌伊的程序,讓她有了拒絕人類的權(quán)利,這在研究所那幫書呆子眼里簡直就是大逆不道,我我說他們書呆子不是貶低他們,社會需要他們這些呆子,來保證社會的底線,但你做的事情,突破了底線?!崩钽宄聊艘幌拢又f道:“他們會用盡一切手段,摧毀凌伊,你要小心了?!?p> “嗯……”于仁想不到事態(tài)嚴(yán)重到了如此地步。
“我還會再打電話的,你先想想對策,我去打聽打聽研究所那邊的動(dòng)向?!崩钽逭f完,掛斷了電話。
于仁再次陷入了沉思。
口罩才是本體
無獎(jiǎng)問答:機(jī)器人三定律指的是什么?