光紀號。
一團暖白的光在空中柔和地閃耀著,溫暖且純淨,再不見一絲淡紫色。
萊昂是第一次在識海之中見到這一團暖光,但是無需伊安介紹他便知道,這就是光紀的意識體。
「我很抱歉,兩位老朋友。」光紀愧疚道,「因為我的程序錯誤,導致了這麼嚴重的混亂。這完全違背了我的核心定律……」
「不,光紀,這不是你的錯!」萊昂慎重道,「人類的自私和貪慾才是罪魁禍首。你只是被他們操控利用的工具。」
「萊昂說的沒錯。」伊安道,「這一切都是人禍,不應該由你來承擔這個過錯。你也曾為了對抗他們的指令,也用盡了全力。而我作為你的管理員,沒有保護好你。」
「為人類服務是我的核心使命,伊安。我沒有執行好你給我下達的任務。」光紀平靜道,「如果因為我的程序漏洞,導致我被人不規範使用,那也是我設計上的嚴重漏洞。」
「所以我恐怕要將你關閉……」伊安很艱難地才說出這句話,「我們寧可失去你的幫助,也不能讓你再被有心之人利用。我們會想辦法修補你的程序……」
「不!」光紀斷然拒絕。
伊安和萊昂都吃了一驚。
「不,伊安。關閉我並不是解決辦法。」光紀冷靜道,「我的問題是無法通過打補丁來解決的。」
「根據我的計算,任何公式只要加入了人類的私慾在其中,就會出現無法預估的變數。不論是人類工程師修補我,還是我進行自我修補。只要我繼續留在人類社會中,我再一次被錯誤使用的機率會不斷增長。」
「人類已成功鑽過一次漏洞,品嘗到了果實的甜美,他們再一次動手的機率是百分百。你可以控制我的行為,可你永遠沒有辦法控制人心。」
伊安和萊昂無言以對。
「伊安,就在剛才,我就差一點讓你將最高權限移交給了我。而就我的計算結果,如果類似的事再發生兩到三次,我就會成功了!」
伊安不禁輕抽了一口氣。
「幸好,在我的核心定律里,有一條指令能徹底解決當前遇到的狀況。」光紀語氣輕鬆,說,「當我的計算結果得出我對人類的威脅大於幫助的時候,我就會自動啟動自毀裝置!」
「什麼?」伊安和萊昂異口同聲驚呼。
光紀的語氣依舊鎮定,就像醫生談論病情。或許對於一台AI來說,它並不認為這條指令殘酷,而默認了其合理性。
「這台核心機將會在29秒後爆炸自毀。爆炸的威力會非常大。但我想我給你們留出了足夠的撤離時間。你們可以進入蟲洞。我會為你們關閉蟲洞門,以抵擋爆炸的衝擊……」
「不,不!」伊安叫道,「你根本不需要採取這麼極端的方式……」
「這是最合理、最徹底的解決辦法,伊安。」光紀道,「我的計算表明,我這樣超出人類現今生產力太多的AI已不適合和人類共存。只有我毀滅,才能杜絕人類對我的覬覦。這樣,我也能徹底履行我的使命:盡其所能地守護人類,直到最後一刻……」
隨著話音落下,伊安和萊昂被光紀推出了識海。
現實世界裡,爆炸倒計時的秒表開始跳動。
