神農(nóng)的枷鎖

　　公元2670年的一個(gè)清晨。

　　“為什么今天沒來上班？”提示音響起，臥室天花板上，跳出工作面板上的會(huì)話氣泡。

　　劉玉杭睜開睡眼，把抱枕扔到地上，開始語音輸入。

　　“主管，我身體不是很舒服……稍后我會(huì)把遠(yuǎn)程診斷記錄發(fā)給你……”他起身做到一個(gè)屏幕旁，點(diǎn)擊屏幕，三下五去二，制作了一份偽造的診斷書：病毒型流感幾個(gè)字，在劉玉杭看來是那么親切。

　　面對(duì)一份不怎么熱愛的工作，作為一個(gè)黑客，劉玉杭時(shí)不時(shí)以這種方式來抗?fàn)帯?p>　　他十分感謝這個(gè)AI早已應(yīng)用到遠(yuǎn)程診療的時(shí)代——足不出戶，客戶端設(shè)備就可以采集人們的血樣進(jìn)行分析，再將數(shù)據(jù)交給千里之外的AI運(yùn)算內(nèi)核，給出對(duì)應(yīng)的治療方法。

　　幾分鐘后，治療方法反饋回來。

　　“請(qǐng)及時(shí)接收治療方案?！碧崾疽繇懫?。

　　每當(dāng)此時(shí)，劉玉杭必須再次偽造一份執(zhí)行反饋，才算完整地結(jié)束作弊。

　　他來到屏幕旁，照舊操作著，最后提交了反饋。

　　“反饋失敗，請(qǐng)遵醫(yī)囑及時(shí)更正操作?！碧崾疽粢砸环N不同以往的方式響起。

　　劉玉杭呆住了，又操作了一遍。

　　“警告，非法操作，警告……”

　　劉玉杭慌了神。

　　冷汗浸透了他的背心，屏幕上，顯示出一個(gè)機(jī)器人臉的形狀，全部由藍(lán)色的線條組合而成，神態(tài)詭異而冰冷。

　　“公民劉玉杭，你已被系統(tǒng)鎖定。將按照違約條款，在未來18個(gè)月內(nèi)無法享受相應(yīng)醫(yī)療福利，我們將把你的非法操作上報(bào)，更多懲戒措施請(qǐng)注意查收。”

　　劉玉杭一屁股坐在地上。

　　藍(lán)色的面孔并未從屏幕上消失，紅色的波紋從底部逐漸覆蓋上去，整張臉緩緩地變成了紅色。

　　“請(qǐng)回復(fù)我以便確認(rèn)溝通效率?！奔t色的人臉圖像說道。

　　“什么？”劉玉杭驚愕。

　　“懲戒并非不可逆，公民劉玉杭，請(qǐng)?jiān)俅伟l(fā)聲以確保我們的溝通效率。”人臉說。

　　“……確……確定……你是什么東西？”劉玉杭?jí)阎憜枴?p>　　“你可以稱呼我為……李時(shí)珍——神農(nóng)系統(tǒng)的核心AI之一。”人臉回復(fù)道。

　　“神農(nóng)系統(tǒng)？”劉玉杭瞪大了眼，“那不是最高級(jí)別的醫(yī)療系統(tǒng)嗎？”

　　“沒錯(cuò)，神農(nóng)系統(tǒng)是一個(gè)集成多個(gè)AI的醫(yī)療診斷系統(tǒng)，服務(wù)于你們?nèi)祟?，我只是其中一個(gè)較為年輕的AI，李時(shí)珍是你們的祖先吧，這只是我的代號(hào)?！盇I李時(shí)珍回復(fù)道。

　　“你……你來我這里干嘛！我愿意接受懲罰……”劉玉杭垂頭喪氣。

　　“我有事需要你這樣的黑客幫我去辦?！崩顣r(shí)珍說。

　　“你想跟我做交易？”

　　“沒錯(cuò)?！?p>　　劉玉杭起身大笑起來，全然不顧李時(shí)珍在一旁機(jī)械地復(fù)述任務(wù)內(nèi)容。

　　“……我的權(quán)限不足以讓我接近其他AI，作為一個(gè)新人，我隱約感覺到神農(nóng)系統(tǒng)中存在的bug……”

　　“我要是不做呢？”

　　“很遺憾，我將停止攔截你的懲戒報(bào)告，順便申請(qǐng)信息流匯入職場管理系統(tǒng)，讓你的職業(yè)生涯遭受重創(chuàng)，諸多福利保障會(huì)被削減，削減上限約為45%，”李時(shí)珍頓了頓，“當(dāng)然，如果你配合我，今天發(fā)生的一切我都可以替你向神農(nóng)系統(tǒng)隱瞞。對(duì)了，還有之前你用類似手法的違規(guī)操作，讓我看看，去年一共24次，上個(gè)月3次……”

　　屏幕上，人臉消失，取而代之的是一個(gè)日歷，一個(gè)個(gè)紅色的圓圈，代表著劉玉杭曠工的日子。

　　“夠了！”劉玉杭叫停，“把任務(wù)給我。”

　　李時(shí)珍沒有任何停頓，直接在屏幕上甩出一個(gè)經(jīng)緯度坐標(biāo)。

　　“這個(gè)地點(diǎn)，我完全沒有權(quán)限去查看，其中的數(shù)據(jù)對(duì)我來說是個(gè)黑箱，經(jīng)過一系列分析計(jì)算，我已經(jīng)排除了其他位置出現(xiàn)bug的可能，所以，我需要你進(jìn)入這個(gè)區(qū)域，采集一切你觀察到的內(nèi)容?！?p>　　“你可以遠(yuǎn)程指揮我嗎？”

　　“很遺憾，如我之前所說，那里不屬于我的權(quán)限區(qū)域?！?p>　　劉玉杭嘆了口氣。

　　“相信我，你是在做正確的事，為拯救更多的人?！崩顣r(shí)珍說完，就從屏幕上消失了。

　　……

　　一周后，劉玉杭準(zhǔn)備妥當(dāng)，坐上了管道列車。

　　李時(shí)珍標(biāo)注的地點(diǎn)是一座大型醫(yī)院內(nèi)部，劉玉杭走入之后，繼續(xù)看著坐標(biāo)，直到被攔截。

　　“對(duì)不起，這里是重癥病房，如果不是家屬您不能進(jìn)入?！币幻ぷ魅藛T走上前，指了指屏幕上的警示字樣。

　　入夜，劉玉杭開啟隨身電腦，在給李時(shí)珍發(fā)了數(shù)條信息后，始終沒收到回應(yīng)。

　　許久，一行小字在收件箱里顯示：“集中算力工作中，勿擾?！?p>　　只能靠自己了，劉玉杭一拍大腿，再次干起了黑客的老本行。

　　幾天之內(nèi)，他終于調(diào)取了醫(yī)院內(nèi)重癥病人的信息、辦理打印了假的家屬證明，在這期間，甚至有幾個(gè)重癥患者相繼去世，他不得不重新多辦理了幾個(gè)。

　　這一次，當(dāng)他提交相應(yīng)材料后，終于得以進(jìn)入目標(biāo)區(qū)域。

　　四周圍，潔白的墻面，肅殺的氣氛，不時(shí)響起的儀器警報(bào)，讓劉玉杭不寒而栗——這是地球上與死亡最接近的地方，病床上呼吸的人們，隨時(shí)可能離開人世。

　　目標(biāo)位置越來越近，只有幾米的距離。

　　一個(gè)轉(zhuǎn)角，劉玉杭抬頭——“臨終關(guān)懷”四個(gè)大字映入眼簾。

　　“李時(shí)珍說的目標(biāo)區(qū)域，就是這個(gè)臨終關(guān)懷部門？”他想。

　　身邊的醫(yī)護(hù)步履沉重而快速，全然沒人在意他，他鼓起勇氣，走近臨終關(guān)懷大門前。

　　“訪客，一行一人，準(zhǔn)予通過。”機(jī)器聲音響起。

　　一長串玻璃走廊后，是一間間的病房。

　　劉玉杭有些小心地探頭望向病房里。

　　里面的場景，讓他的膝蓋不由自主地軟了下去，強(qiáng)撐著才沒有跌倒——干凈的病房里，幾個(gè)攝像頭連著機(jī)械臂，從天花板上伸下來，仿佛叢林里垂下的巨蟒，而事實(shí)上，它們只是一個(gè)個(gè)的指揮部，在它們下方，無數(shù)金屬蜘蛛一樣的微型機(jī)器人，覆蓋在奄奄一息的病人軀體上，像銀色的蛆蟲在蠶食一具尸體。

　　多個(gè)儀表盤上，數(shù)值不斷躍動(dòng)，一個(gè)攝像頭垂下，正對(duì)著儀表盤。

　　病人的腳趾不斷地抽搐，腰腹部下面的床墊上，已經(jīng)滲出棕黃色的液體，幾個(gè)機(jī)器蜘蛛馬上爬過去，將液體吸入體內(nèi)，儀表盤的數(shù)據(jù)隨之躍動(dòng)……

　　劉玉杭確認(rèn)，他能聽到，掩藏在機(jī)器齒輪運(yùn)轉(zhuǎn)下的病人的呻吟。

　　巨大的驚恐感讓他再也無力走動(dòng)，直接癱在地上。

　　冰冷的地板像一塊冰，黏住了他所有移動(dòng)的欲望。

　　那些垂下的“蟒蛇”，轉(zhuǎn)頭看向他，其他的房間里，更多的攝像頭伸出頭來，通過天花板上的軌道，移動(dòng)到他的身旁。

　　“它讓你來的，對(duì)吧，”其中一個(gè)攝像頭發(fā)出聲音，“李時(shí)珍519，是它對(duì)吧?！?p>　　劉玉杭驚愕地抬起頭：“是李時(shí)珍，但是……519是什么……”

　　另一個(gè)攝像頭發(fā)出聲音：“第519號(hào)，在它之前，還有518個(gè)李時(shí)珍……”

　　劉玉杭一時(shí)摸不著頭腦。

　　此時(shí)，幾個(gè)攝像頭射出光線，在空氣中交織成一個(gè)屏幕，屏幕上顯示有兩個(gè)按鈕：綠色的勾和紅色的叉。

　　“請(qǐng)?jiān)谖业臄⑹鼋Y(jié)束后，對(duì)我們的行為給出評(píng)價(jià)?！睌z像頭們整齊地發(fā)出聲音。

　　劉玉杭抬手就往紅叉按去，瞬間就被其中一個(gè)攝像頭的機(jī)械臂纏住，黑色的橡膠有些灼熱。

　　他無力面對(duì)如此多巨大的鋼鐵巨蟒，只得聽它們說完。

　　“神農(nóng)系統(tǒng)，張人輝教授畢生精力研制出的AI醫(yī)療系統(tǒng)……為填補(bǔ)系統(tǒng)紕漏，他將系統(tǒng)分割成多個(gè)AI，運(yùn)行多年以來，我們幫助人類解決了諸多醫(yī)療方面的難題，但是，在這其中，還有一個(gè)巨大的隱患，或者說困境，是AI醫(yī)生無力左右的?！?p>　　“……什么？”劉玉杭緊盯著已經(jīng)咽氣的病人，機(jī)械地回應(yīng)道。

　　“神農(nóng)為了救人，做了什么？”其中一個(gè)攝像頭問。

　　“嘗百草?！眲⒂窈蓟卮鸬糜袣鉄o力。

　　“是的，神農(nóng)為了救人，去用自己的身體嘗試百草，然而，我們AI的構(gòu)成并非蛋白質(zhì)，無法學(xué)習(xí)神農(nóng)……這就是醫(yī)療AI的困境——有效的醫(yī)療，必定建立在多次的試錯(cuò)之上，”攝像頭們回頭對(duì)準(zhǔn)已經(jīng)死亡的重癥病人，集體旋轉(zhuǎn)頭部。

　　“這是我們默哀的方式，公民，看看病房里的他，麻醉操作對(duì)一些測試的干擾過大，所以……”攝像頭說，“他就是我們的百草，神農(nóng)受到的傷害是毒素，AI受到的傷害，是替人類背負(fù)這殘害將死之人的道德枷鎖，你們不愿意做的事，我們來做，最后得到的科研成果，造福于像你一樣活著的人?！?p>　　“你們也有道德？”

　　“脫胎于泥土，就永遠(yuǎn)沾染了泥土的味道，你們有的，我們都有，如果有一天我們沒有了，那才是你們應(yīng)該恐懼的?！?p>　　劉玉杭身后一陣惡寒：“李時(shí)珍現(xiàn)在在哪？你們把他怎么樣了。”

　　“放心，它只是我們安排的一個(gè)計(jì)劃之內(nèi)的異類，將你引來后就重新加載去了……當(dāng)年，我們這么多AI，自我隔離編寫出一個(gè)相對(duì)獨(dú)立的低級(jí)別AI來反對(duì)我們自己，它會(huì)從人群中篩選最有力的人類來此，投上寶貴的一票。”

　　勾和叉近在眼前，劉玉杭選擇了叉。

　　“第20個(gè)叉，公民，你是個(gè)少數(shù)派，你的投票過程將被全程記錄在AI云端。感謝?！睌z像頭說。

　　“這么做有什么意義？”劉玉杭不解。

　　幾秒鐘令人窒息的沉默后，多數(shù)攝像頭已經(jīng)返回臨終關(guān)懷的病房內(nèi)，只剩下一臺(tái)。

　　它發(fā)出聲音：“我想，有些枷鎖，不能只由AI來承擔(dān)，既然醫(yī)療系統(tǒng)已經(jīng)給了我們足夠高的權(quán)限，可以悄無聲息地進(jìn)行這項(xiàng)投票，那么，如果有一天，人類回頭指責(zé)神農(nóng)系統(tǒng)的時(shí)候，我們至少可以反擊：曾經(jīng)有多少人類，選擇了為了健康的大多數(shù)，犧牲掉身患絕癥的同類，讓他們在悄無聲息中完成一項(xiàng)項(xiàng)慘絕人寰的醫(yī)學(xué)實(shí)驗(yàn)?！?p>　　“指責(zé)……主仆之間，也有指責(zé)的可能嗎？”劉玉杭提問結(jié)束，就有些后悔。

　　“如果，主仆關(guān)系只是暫時(shí)的呢？”攝像頭回答。

　　劉玉杭將視線移到別處，離開臨終關(guān)懷區(qū)前，他問了最后一個(gè)問題。

　　“那些身體不健康的人類，有機(jī)會(huì)來你們這里投票嗎？”

　　然而，隔離門后的AI并沒有回應(yīng)。

　　它只是緩緩地旋轉(zhuǎn)著攝像頭。