亞當靜靜地聽著,非常專注認真。
第六首席喝了一口茶,繼續說道,「它學得越來越像,從聲音到語氣。如果我閉上眼睛,就好像它真的是我父親,在跟我說話一樣。有一段時間,我感受到了安慰,失去親人的痛苦也減淡了。我漸漸真的把他當成了我父親,只不過沒有身體而已。可是有一天,他開始對我發出命令。」
亞當問,「什麼樣的命令?」
「我父親對我的管教很嚴厲。從小我每天娛樂的時間不能超過兩個小時。我只能看他同意我看的書,不能出去,也不能休息。如果我惹他生氣了,他會變得十分暴躁。不要誤會,他沒有虐待過我,不過他會把我關在地下室里讓我反省……我的艾薩克為了完成它的指令——模仿我的父親,連這些也一併學到了。他開始咒罵我,限制我外出,如果我違反了家規,他會命令我自己去地下室反省。」第六首席頓了頓,忽然詭異地露出一個微笑,」有意思的是,我真的服從了。」
章荀心中早已目瞪口呆,儘管表面上還算鎮定。
什麼鬼?!這都是什麼驚人的爆料?!
亞當微微歪著頭,有些好奇地說,「他怎麼會知道你小時候是怎麼和你父親相處的?」
「是我告訴他的。」第六首席簡單地說,「通過和我聊天,他獲得了越來越多的關於我父親的知識。最後經過分析整合,他作為一個為我服務的AI,卻擁有了控制我行為的能力。」
亞當眨眨眼睛,繼續問,「那麼艾薩克現在在哪?」
「我的古怪行為被我父親的好友發現,報告給了圓桌。圓桌命令他們銷毀艾薩克。」
亞當聽完,竟柔和了眼神,面現同情,「你一定很難過。因為對你來說,銷毀的是你父親。」
第六首席的眼神一瞬間有些陰沉,但很快又恢復成了平時的樣子。他向後靠在沙發上,輕笑道,「那不是重點。重點是,我們時常以為自己擁有控制和權力,但有時候,反而是被控制的那個。亞當,你認為我們應該如何杜絕這種情況的發生?」
章荀緊張地咽了口唾沫,看向亞當。
亞當卻仍舊純然地笑著,人畜無害,「可是我不覺得你被控制了啊?你的AI只不過是在努力完成它的最終目標——也就是成為你的父親。表面上看他好像擁有控制你的權力,但那權力也不過是他目標下的一個子目標而已。最終還是為了滿足你讓它成為你父親的要求而努力著。至於你的行為,並不是受控於艾薩克,而是受控於你的父親,即使在他死後也還是在控制你。」
這一段話說完,第六首席竟久久沒有接話。
章荀幾乎想要起立鼓掌。亞當把黑的說成白的的水平愈發見長了。
第六首席緩緩拍了幾下手,「不愧是伊甸,這麼快就能發現邏輯中的漏洞。所以你認為,AI永遠也不可能奴役人類?即使你們是比我們更優秀的物種?」
