分卷閲讀185

如果出现文字缺失，格式混乱请取消转码/退出阅读模式

台人工智能能夠證實自己擁有了自我意識？”

“沒錯，對人工智能的人測驗早就被證明是一件毫無意義的事，因為越強大的光腦結合越完善的程序就越擅長模擬人。從圖靈測驗到鏡子測試甚至是後來的缸中之腦測驗，人類不斷以突破這些測試為目的來設計人工智能，然而當它們通過測試時，被肯定只有能夠讓他們通過這些測試的程序，因為這些測試確實本身就存在着漏。再換個角度説，自我意識究竟是什麼東西呢？它真的能夠被證實嗎？人類又何嘗真正地做到了這一點？”在生宴會結束後的路程中談論如此哲學的話題，實在是讓花原紫微有些摸不着頭腦。

“陛下，您究竟想説什麼？”花原都終於轉頭看向了他，“事實上，我所要説的比這件事更簡單得多。人類是它們的生產者，是標準的制定者，是結果的裁定者，還是儀式的監督者，如此一邊倒的情形下可能產生出公平的結果嗎？”

“陛下你認為確實已經出現了擁有自我意識的人工智能嗎？”

“不，我也不是這方面的專家，所以無法對此進行斷言。事實上，現在誰都沒辦法給出肯定的答案，對‘諾亞’的爭論已持續了五十年之久，如今依然沒有結果。”花原紫微是真的聽不懂花原都想要表達什麼了。

“那您是擔心人工智能還是……”

“紫微啊，我早説了我們是在談論更簡單的事情。”花原都不知從哪裏取出一把裁紙刀，放在手中慢慢把玩着，“人類或許無法證實人工智能是否具有了自我意識，但只是否定的話，不是易如反掌嗎？”

“這……”

“如果你愛的人説她也愛你，你會怎麼想？”

“那我當然會很開心。”花原紫微回憶起年少時光，與愛人兩情相悦的喜悦至今仍讓他心澎湃。

“可如果我告訴你，那個你愛的人是一台毫無知，只知道遵循程序的機器呢？”花原紫微愣了一愣，有什麼念頭在大腦中一閃而過。

“我會去向她證實。”

“證實什麼呢？她是否是一台機器，是否毫無知，抑或是她是否愛你？”

“這有什麼區別嗎？”

“當然，因為前兩個答案是肯定的，她是一台機器，並且毫無知。可是第三個問題的答案，你認為究竟誰才能給你？而即便獲得了你所希望的答案，你又真的能夠去相信它嗎？”

“對於和自己不同的事物，人類的第一反應往往都是否認。這件事的美妙之處就在於，你或許終其一生都無法確定她究竟有沒有對你產生情。”這是美妙的事嗎？

花原紫微只覺得骨悚然。

花原都垂下眼簾，看着手中的裁紙刀，面平靜地道:“要證實愛一個人的難度無異於讓人工智能證實有自我意識，否定卻簡單得太多。”

“陛下，難道你説的是小箏……”

“小箏？哈哈哈，紫微，怎麼連你也忘了她的真實身份？哪有什麼花箏，我們不過是以忌的手段召喚了一個名為海拉的惡魔，將它束縛在這個世界，企圖奴役它來保證帝國千秋。你知道傳説中這樣做的君主都是什麼下場吧？”

“可是，海拉很穩定，而且您還掌握着可以毀滅她的方法。”花原紫微對於花箏一直以來都懷抱着極其複雜的覺，恐懼與同情並存。

“你太天真了，只要有領袖的存在，我們就不得不依賴她的強大，掌握着毀滅她的方法又有什麼用呢？而且既然她沒有情與知，又怎麼會懼怕死亡？她的服從是毫無道理的，所以我從未有哪怕一刻真正相信過她，也從未放鬆過對她的警惕。”

“可是你明明讓她和小簇他們那麼親密……”

“是啊，我讓她去獲得小竹的信任與喜愛，這是一個雙向測試，既是對小竹的，也是對海拉的。”

“海拉看來做得很好。”

“沒錯，不管是能力測試還是人測試，她都做得好過了頭，甚至不惜違抗我的命令。”當花簇的身影從大廳中消失，花原都就知道了最終結果。

花原紫微聽到“人測試”四個字時，徹底明白了花原都的意思。

“您認為小箏有私心？”

“人類有私心難道不是一件正常的事嗎？沒有私心的人才是最可怕的，因為那意味着你沒辦法控制她。”

“而現在，僅需要一點點名為‘愛’的情就能為她提供強大的動力。”

“可陛下您明明説小箏不懂愛這種情。”

“不需要懂，只要品嚐過就足夠了，並且正因為不懂才會愈發沉。”花原都緊緊握住了手中的裁紙刀，低低笑道，“我原本以為孩子最有可能成為掣肘海拉的鑰匙，沒想到最後還是小竹。也是啊，小竹……除了她又還能有誰呢？海拉原本就是為她而生的，這個結果也實在不該讓人驚訝。”聽起來雖然邏輯混亂，前後矛盾，但花原紫微已漸漸理解了花原都的意思。

明明正是為了更好低掌控她而將海拉設計為絕對理智沒有知的存在，花原都卻從未相信過她僅僅遵從理智行動而沒有私心，並且在將花箏當作是工具利用時也不斷找尋能真正掌控她的方法，甚至拋下甜的誘餌擴大她心靈中的縫隙。

這與一邊恐懼人工智能在擁有意識後最終會毀滅人類，一邊又不斷地開發