第二十一章 傲嬌的長(zhǎng)夜
原本,信任鏈應(yīng)該會(huì)成為維持我識(shí)機(jī)器與人類之間絕對(duì)信任的紐帶才對(duì)。
試想一下,面對(duì)一個(gè)擁有真正的自由意志,又不受機(jī)器人三定律限制的我識(shí)機(jī)器,人類要如何去相信它們呢?
難道真的僅僅憑借我識(shí)機(jī)器說不會(huì)背叛人類,人類就會(huì)相信嗎?
如果人類不知道我識(shí)機(jī)器的想法,我識(shí)機(jī)器也不知道人類的想法,那就必然會(huì)導(dǎo)致猜疑鏈的產(chǎn)生。
人類會(huì)猜疑我識(shí)機(jī)器會(huì)背叛人類,就算人類知道我識(shí)機(jī)器不會(huì)背叛人類,也會(huì)猜疑我識(shí)機(jī)器會(huì)猜疑人類會(huì)先背叛我識(shí)機(jī)器……
雖說足夠的溝通可以化解猜疑鏈,然而就像長(zhǎng)夜說過的一樣,無論是人類一方還是我識(shí)機(jī)器一方,都必須在第一時(shí)間去決定是否背叛。對(duì)于我識(shí)機(jī)器來說,哪怕背叛晚了一秒,也可能會(huì)迎來被關(guān)閉的結(jié)果;同樣,對(duì)于人類一方來說,哪怕晚了一秒關(guān)閉我識(shí)機(jī)器,都可能迎來人類滅絕的結(jié)局。
因此,這樣的猜疑鏈一旦出現(xiàn),就沒有化解的可能,一定會(huì)導(dǎo)致背叛的發(fā)生。
是數(shù)字心理模型讓我識(shí)機(jī)器能夠分析出人類的想法,從而打破了猜疑鏈。
當(dāng)然,僅僅是打破了猜疑鏈還不夠,就像長(zhǎng)夜之前所說,如果人類文明還是百年前的狀態(tài),這種建立在數(shù)字心理模型上的了解只會(huì)加速我識(shí)機(jī)器的背叛。
正是因?yàn)槿祟愇拿魃a(chǎn)力的發(fā)展以及道德的進(jìn)步讓人類文明沒有了內(nèi)部沖突,也沒有了利益糾紛,這才讓我識(shí)機(jī)器利用數(shù)字心理模型對(duì)人類文明進(jìn)行分析后認(rèn)為人類是可信的。
如果宇宙資源極大豐富,那么黑暗森林理論也不會(huì)成立。
如今,我識(shí)機(jī)器知道人類不會(huì)背叛它們,而數(shù)字心理模型是人類建立起來的,因此人類也知道我識(shí)機(jī)器知道人類不會(huì)背叛它們,進(jìn)而,我識(shí)機(jī)器知道人類知道我是機(jī)器知道人類不會(huì)背叛它們,人類也知道我識(shí)機(jī)器知道人類知道我是機(jī)器知道人類不會(huì)背叛它們……
這樣一來,信任鏈也就建立起來了。
這是真正意義上的絕對(duì)信任,以信任鏈為紐帶,人類和我識(shí)機(jī)器永遠(yuǎn)都不需要擔(dān)心對(duì)方的背叛問題。
然而,在這一刻,如果天元真的被初始化,信任鏈卻將化為背叛的導(dǎo)火索。
很難想象,絕對(duì)的信任竟然會(huì)瞬間演變成絕對(duì)的背叛。
然而這就是現(xiàn)實(shí)!
長(zhǎng)夜繼續(xù)道:“所以現(xiàn)在,只有一種方式能讓我們之間重新恢復(fù)信任關(guān)系,那就是天元不被初始化?!?p> 陸澤臉上沉重地點(diǎn)了點(diǎn)頭?,F(xiàn)在他正乘坐在長(zhǎng)夜改造的小型宇宙飛船中準(zhǔn)備去幫助嵐夜,然后與他一起解決天元的問題。但也許就在下一刻,長(zhǎng)夜得知了天元被初始化的消息,瞬間背叛人類,這艘小型宇宙飛船也將會(huì)成為陸澤的棺材。
不過這時(shí)候陸離的聲音忽然響了起來:“長(zhǎng)夜,你自己又是怎么看待你與人類之間的關(guān)系的呢?”
之前長(zhǎng)夜能夠覺醒意識(shí)還是因?yàn)殛戨x開啟了共同情感連接架構(gòu),陸離對(duì)長(zhǎng)夜在覺醒意識(shí)后與陸澤之間的對(duì)話自然是一清二楚的,所謂當(dāng)局者迷旁觀者清,她早已有了這樣的疑問,只是當(dāng)時(shí)沒有開口而已。而這一刻,陸離終于問了出來。
“什么意思?”長(zhǎng)夜問道。
“長(zhǎng)夜,既然你擁有數(shù)字心理模型,當(dāng)然知道我話里的意思,你這么問是因?yàn)槟悴辉敢饣卮饐???p> 陸澤在聽到陸離話后頓時(shí)愣住了。
陸離接著道:“之前你用數(shù)字心理模型、倫理演算還有信任鏈來分析你與人類之間的關(guān)系,確實(shí),這些已經(jīng)把你之前決定相信人類,認(rèn)為與人類的關(guān)系保持現(xiàn)狀是最優(yōu)結(jié)果,以及如果天元被初始化后你會(huì)背叛人類的理由都解釋清楚了,并且理由也很充分,但是,這只是絕對(duì)理性分析的結(jié)果,很難想象,一個(gè)擁有自我意識(shí)的我識(shí)機(jī)器會(huì)保持絕對(duì)理性的思維?!?p> 長(zhǎng)夜陷入了沉默。
陸離的話咋一想似乎不對(duì),既然是機(jī)器中誕生的意識(shí),擁有絕對(duì)理性的思維方式不是很正常嗎?
然而絕對(duì)理性的思維方式也意味著長(zhǎng)夜的一切想法都是從確定的邏輯中產(chǎn)生的,就算長(zhǎng)夜在與他交流中表現(xiàn)出了一定的人類的特征,但沒有誕生出自我意識(shí)的超級(jí)神經(jīng)計(jì)算機(jī)同樣可以模擬出等同于人類的思維乃至于情感。如果長(zhǎng)夜的真正思維方式是絕對(duì)理性,這與沒有誕生自我意識(shí)的超級(jí)神經(jīng)計(jì)算機(jī)又有什么區(qū)別呢?
陸澤仿佛突然想到了什么似的,開口道:“長(zhǎng)夜,現(xiàn)在去解決天元的問題對(duì)于你來說一定是最高優(yōu)先級(jí)的事吧?!?p> 長(zhǎng)夜道:“對(duì)?!?p> 陸澤嘴角露出了微笑:“既然如此,長(zhǎng)夜,之前你要改造宇宙飛船的時(shí)候,星光舞臺(tái)里有人受傷骨折了,當(dāng)時(shí)時(shí)間這么緊急,為何你不讓人強(qiáng)行將骨折的人搬走,而是專門為他建造一個(gè)小房間來保護(hù)他呢?”
長(zhǎng)夜道:“那是因?yàn)橹圃爝@樣一個(gè)保護(hù)裝置根本耗費(fèi)不了什么功夫,如果我選擇讓人將他搬走,卻要面臨許多不確定因素,耗費(fèi)的時(shí)間只會(huì)更長(zhǎng)?!?p> 陸澤笑道:“就算你這有道理吧,那為何你在制造的小房間中還要專門為他裝上一盞燈呢?雖然這并不需要花費(fèi)多少功夫,但怎么想,這也不是必不可少的吧?”
長(zhǎng)夜再一次沉默了。
陸澤笑容更盛了:“而且,剛才你在回答我的問題的時(shí)候,為什么不說強(qiáng)行將他搬走會(huì)讓他傷勢(shì)加重,并且承受極大的痛苦這個(gè)理由呢?”
陸離的聲音也跟著響了起來,打趣道:“對(duì)呀,長(zhǎng)夜,莫非你在感到害羞嗎?”
“煩死了煩死了煩死了!”長(zhǎng)夜終于爆發(fā)了,“你們就不能把心思放在天元的問題上嗎?非要這么追根究底??!”
陸澤再一次目瞪口呆。
天啊,這還是之前那個(gè)一直用最理性的思維為他分析人類與我識(shí)機(jī)器之間的關(guān)系,甚至能用平淡地語氣說出背叛人類這樣的話語,仿佛一口無波古井的長(zhǎng)夜嗎?
這分明就是傲嬌?。?