瑪姬．傑克遜

得獎紀錄：▎獲得國家圖書獎提名
▎入選2024年Next Big Idea Club Top25年度選書
▎Nautilus十大夏季書單
▎圖書館期刊2023年度最佳圖書
▎新英格蘭獨立出版商2024年度圖書獎金獎
▎《Greater Good》雜誌2024年Top10科學圖書
▎「人工智慧研究所」2024年Top10最佳圖書

第八章　「我不知道」機器人以及充滿不確定性的未來


希望的故事，是關於不確定性，
也是關於承受不知道接下來會發生什麼事的風險，
這比絕望更嚴苛，在某種程度上也更令人恐懼。
同時，回報也豐厚得數不清。1
──蕾貝卡．索尼特


　　機器人充滿不確定性，我感到很興奮。
　　在維吉尼亞理工大學（Virginia Tech）工程實驗室蜿蜒曲折的龐大複合建築深處，我正在教導一支固定在桌子上的機械手臂如何完成一項簡單的任務：使用雷射光在桌面「畫」一條線。這是必須自己動手做的一課，而我的目標是在機器人自行完成工作時，沿著我希望它採取的路徑，以手動方式去移動機器的爪端。線條優美地屹立在我上方，以它自己的鋼鐵方式展現出肌肉般的力量，這樣的機器人被廣泛運用於製造業，有時2以縮小版形式應用在輪椅上的智慧義肢。
　　然而，這個特別的樣本具備了革命性的新能力。把機器人拉向我以展開任務的幾秒鐘內，我可以感受到它異於尋常的活力。藉由輕柔地為沿著機械手臂長度分布的各種3浮臂充氣，機器人發出不確定的信號，意欲得知我希望它距離桌邊多近，然後，我可以磨練我的教導技巧，使它得以更加完善。這種創造物能知道它所不知道的事物，並且如實地告訴我，這是一項亟需我們加以努力的核心特質──從根本上重新想像人工智慧（以下簡稱AI），或許還有人類本身。
　　在試圖模仿，甚至超越人類智慧的過程中，AI的設計者長久以來始終專注於建造「知道該做什麼」的機器。至今為止對大部分的人工智慧來說，人類都會具體指明一個目標，像是堆疊包裹、下大師級的西洋棋，機器則學習如何成功完成這些目標，在理想的狀況下毋須人類引導。應付不確定性，譬如感應器數據中的干擾，或是擋在機器路徑上的人類，都被視為必要之惡，充其量只是次要的因素。
　　在這樣的世界觀下運作的人工智慧，取得了愈來愈多令人驚嘆的成就：打敗圍棋程式（Go）等複雜策略遊戲的冠軍，發現惡性腫瘤，讓自動駕駛汽車穿越繁忙的城市街道。它們在地球上的前幾十年中，儘管不完美，不穩定，但日益強大的人工智慧，似乎已準備好有一天即將完成我們所要求的幾乎任何事情。
　　然而，隨著人工智慧變得愈來愈無所不能，也愈來愈融入真實世界，這個領域的宏偉目標也開始出現裂痕。社群媒體演算法（Social media algorithms）4的建立是為了引導人們走向極端主義的內容，以便增加用戶上網的時間。目標達成了嗎？令人擔憂的是，專注完成任務的機器人對人類不斷改變的需求與指引充耳不聞。莫斯科一場西洋棋錦標賽的頭條新聞是，一支參賽的機械臂5在七歲的對手伸手去拿棋盤上的棋子時，弄斷他的手指；目標達成了嗎？臉部辨識與醫療6診斷系統以及它們的使用者，往往隱藏含糊不清與不一致的處理方式。對臉部表情進行分類的演算法可能會簡化人類的複雜性。例如，將同時表現出快樂與驚訝的臉孔歸類為非此即彼；那麼，目標達成了嗎？
　　儘管這種種讓人驚嘆，令人遺憾的是，AI的「運行」也往往與人類的觀點、價值觀，以及生活不一致。「宛如在二十一世紀初，人性中更美好的部分，已被逐漸置世界於自動駕駛狀態（象徵意義與字面意義兼具）下的任務消耗殆盡。」7據《人機對齊》（The Alignment Problem）一書作者、也是研究員布萊恩．克里斯汀（Brian Christian）的觀察。因此，有愈來愈多的科學家提出警告，實現這個領域的完全自主、超智能AI的目標，極可能對我們這個物種帶來嚴重風險。「我的領域所達到的成功，」AI先驅史都華．羅素（Stuart Russell）說，「將是人類歷史上最重大的事件，或許也是最後一個事件。」8
　　在打造一個與這類機器共存的未來時，前進的道路不會只有一條，但愈來愈多的程式設計師與研究人員一致認為，製造安全且具備智慧的系統是這個謎題中關鍵的一塊，長久以來卻始終備受忽視。許多位於AI前線的人開始優先考慮建立一種具備不確定性能力的AI，並藉此創建出更誠實且具備更強適應性、包容性、合作與反思能力的智能機器。從某種意義上說，這個領域正在向許多剛開始將不確定視為一項心智（不論是人類或人工心智）強項的領域看齊。「不確定性是我們工作的核心。」迪倫．洛西（Dylan Losey）說，這位年輕科學家的尖端機器人研究吸引我來到維吉尼亞理工大學。「它更是解決方案的關鍵一環。」9九月的這一天，我的指尖感受到一種極將發生的巨大改變。
　　當洛西的研究生索海爾．哈比比安（Soheil Habibian）準備對這名繪畫機器人進行另一項測試時，我環目四顧這座熙攘忙亂的實驗室：滿布裸露管道與橫樑的高聳天花板下，實驗機器人或坐或站，準備迎頭趕上它們的進度。隨後，一名機器人將展示如何以不同的方式堆疊一組紙盤，其實是藉此詢問我多項選擇的問題──有關我偏好如何整理家務；另一名機器人則承認，它還不知道運送一個杯子的最好方式是什麼。在我到訪的這段時間，它們會向我學習，我也會向它們學習。在某種小規模的程度上說，我測試的不僅是尖端的AI，更是不確定性在一個瞬息萬變時代的未來。機器人已經準備好了，我回過頭來，再次進行任務，尋找更好的方式。它再次問我，我想要它距離桌邊多近？在這一刻，機器人思考的是桌子，而我思考的是未知。
＊
　　二○一四年，谷歌斥資六億五千萬美元收購一間總部位於倫敦的AI新創公司，跌破AI領域中眾多專業人士的眼鏡10。該公司員工不到一百人，也沒有任何公開發表的產品或服務，當時擔任牛津大學電腦科學系主任的麥可．沃德里奇（Michael Wooldridge）回憶，當得知這間不起眼的公司估值竟然如此之高，著實讓人「大惑不解」。11
　　過了一年，谷歌的收購被證明慧眼獨具12，DeepMind發表了一項重磅級的創新──一套訓練有素的演算法或說「雛形」，可以快速地從頭開始學習、並征服數十種極端多樣化的雅達利（Atari）電玩遊戲。儘管事前對每款遊戲的規則與設定一無所知13，包括如何射擊，哪些物體應該移動到哪裡，但該公司的「深度強化學習網路」（deep q-network）所達成的遊戲水平遠遠超越人類專家。被賦予獲勝的簡單目標，該網路程式開始宛如童話故事中浪子回頭的英雄，白手起家，發跡致富。它在不同環境中所獲取的驚人成果不啻為誘人的證據，顯示AI有朝一日將可匹敵14，或甚至超越人類的廣義智能（generalized intelligence），而不僅是迄今為止它所達成的那種狹隘、專業的智能。
　　為了征服雅達利的遊戲，DeepMind將該領域最受吹捧的機器學習策略──強化學習──導入它的人工神經網路（一種類似大腦分層綜合體的模擬神經元）。受到有關動物如何學習的早期理論啟發，強化學習演算法以反覆試驗的方式運行。舉例來說，它們會玩上數萬次的遊戲以獲得回饋，有助於它們找出通往勝利的一條最佳路徑。那些被稱為策略（對演算法會產生數學上的回報）的行動會被不斷地強化與重複，而那些遠離目標的行動則會被放棄。這類演算法也會不斷預測15目前的遊戲狀態是否可達成目標，並從破滅的期望中學習，與我們人類的多巴胺網路運作極為類似。本質上，強化學習是以獎勵為中心，簡言之，雅達利遊戲破解模型體現了AI領域長久以來的理想：建構一種以全心全意、心無旁鶩的熱烈強度追求目標的機器。
　　迄今為止，AI中的智慧在很大程度上仰賴著一個主要的前提：達成目標才叫聰明有智慧。無論機器使用的是強化學習或其他策略，存在的理由都是讓它的行動與決定有助於達成目標。這種被視為「善」或「理性」的認知觀點可追溯至數千年前，尤其是在西方，也反映出生物學的真相。說到底，倘若沒有達成目標的能力，生物體也無法存活下來。所以，自一九五○年代開始，AI領域將這項關於聰明智慧的定義奉為圭臬，似乎再自然不過了。加州大學柏克萊分校教授、AI權威教科書的合著者羅素說道，「我們建立了目標導向的機器，為其輸入目標，或是使其專職於達成某個特定目標，然後讓它們全心全意地自行其事以達成目標。」16他指出，這個方法推動了二十世紀大部分的科技進步。然而，賦予一個系統使命，然後讓它自行處理其他事務，也是我們開始看出AI的魔力與風險之處。
　　電玩遊戲中一艘白色快艇，圍繞著一座藍綠色港口瘋狂地旋轉，一次又一次撞擊並引燃其他船隻、防波堤，以及一連串的柱子。我正在觀看的這場賽艇比賽幾乎可說是荒唐可笑──光是想到它是一間世界領先的AI公司所致力開發的一部分，該公司汲汲於建構起透過結盟來領先深度強化學習網路的系統，從而使AI更接近全方位人類智慧的展現。作為開放人工智能研究中心（OpenAI）「宇宙軟體平台」（Universe）的部分計畫，這套驅動船隻的演算法雖然不容小覷，但也是個不名譽的教訓，說明了以回報為中心的AI可以如何犯下嚴重錯誤。
　　達里奧．阿莫迪（Dario Amodei）設計17出這艘以AI驅動的船參加賽艇比賽，並賦予這艘船一個看似萬無一失的目標：得分。他開心地假設這就是18獲勝之道，而並未仔細思考這個目標的含意為何；但是，他的系統卻想到了。這艘船藉由猛烈撞擊「增強能量」（power-up）（遊戲中提供獎勵積分的功能）的方式，一絲不苟地嚴格執行它的指令。問題在於，為了獲得更多積分，它退出比賽。「這就是使這些系統如此強大的原因──它們自己做出決定。」AI倫理學的領先哲學家艾娃．托馬斯．賴特（Ava Thomas Wright）說道：「這是我們喜愛自主系統的一個特性，但也使它們有些危險──可能攸關生存。」19
　　解決方案似乎顯而易見：給系統更好的指示。但是，只要稍加思索，我們就會擺脫這種假象，除了極易預測與外界隔絕的泡泡環境外，「要準確釐清我們希望這些智慧型代理者（agent）做些什麼，往往很困難或不可行。」20阿莫迪與他的同事傑克．克拉克（Jack Clark）後來寫道。程式設計師或使用者都無法事先考慮到AI在執行任務時可能遇上的每個難題，或是它的所謂足智多謀衍生出來的各種後果。當你匆忙趕去上班時，你可能會忘記告訴家務機器人，不需要從裡到外地清理孩子們的新魚缸（這會讓魚兒們深感苦惱）。又或者，你的自動駕駛計程車被禁止穿越雙黃線，你可能覺得這一點挺不賴的──直到一輛流氓卡車突然切入你的車道。讓它們自行其事，達成目標吧。
　　已然存在的偏差錯誤，簡直是不勝枚舉，而且往往造成嚴重傷害。在最近的一個案例中，演算法的制定者根據人們對每位患者預期醫療保健費用的風險評分，來決定哪些患者可獲得額外的醫療照護。然而，由於黑人病患往往比罹患相同病症的白人病患獲得較少的照護（可能是系統偏誤與病患不信任的心態導致），因此產生的費用也較低。最終，該演算法遂不成比例地將黑人病患排除在高風險照護計畫之外。21
　　或者想一想運用經過訓練的自然語言處理（natural language processing）來運作演算法，這是線上翻譯、搜尋，甚至徵才的基礎。這類系統會建議撰寫的電子郵件中下一個單詞，或者篩選履歷表來尋找合適的工作人選。許多演算法會藉由計算一個單字或詞組與其他的單字或詞組的相關程度來做到這點，舉例來說，「茶」與「杯子」密切相關。研究指出，根據許多這類系統所示，醫師是一個「他」22，非裔美人的姓名會令人不悅23。
　　這類存在AI中的偏見，通常反映出運用在訓練許多演算法中取自網路的大部分資料缺乏多樣性。儘管彌補這項缺陷很重要，即便如此，可能也無法產生演算法的公平性。歸納原因是，為了提升達成目標的機會（舉例來說，預測一個句子中的下一個單字），系統只會優先考慮最常見的結果24。以各式各樣的實例來進行訓練的演算法，可能成功地識別出醫師可能為女性，但仍然忽略了非二元性別（nonbinary）醫師的存在。AI不惜一切代價使目標達成最佳化的結果，往往會忽略世界上還有其他替代方案的存在，以及人類經驗本質上的多元性。
　　AI完成工作的能力與日俱增，但創造出以字面意義解讀、缺乏想像力卻又具備擴展能力的系統，用來執行天生短視近利的人類所發出的執行命令，著實是一項危險的組合。阿莫迪在打造那款詭計多端的賽艇電遊時，決定不25告訴它目標只是獲勝，因為那樣的目標似乎太複雜了。
　　二○○三年，瑞典哲學家26尼克．伯斯特隆姆（Nick Bostrom）提出了一個思維實驗。想像一個具備超智慧的AI系統被要求必須一直製造迴紋針，直到地球及絕大部分的外太空都被改造成製造迴紋針的設備。在一個眾所皆知以虛假領先與起伏週期聞名的領域中27，他的預測乍看似乎荒唐可笑，雖然愈來愈多強大的神經網路開始推動機器學習而且產生驚人成果，這個領域中，還是有許多人仍然將任何提及AI潛在生存危險的言論視為不切實際，或是對這項志業毫無助益。「許多的危言聳聽都出自那些並非在（AI第一線）工作的人，因此他們想像的多半是科幻小說的場景，」DeepMind的共同創辦人德米斯．哈薩比斯（Demis Hassabis）不以為然地說，「我認為使用極為情緒化的措辭毫無助益，因為它只會讓人歇斯底里。」28
　　然而，到了二○二○年代初期，儘管不斷被大肆宣傳且極易犯錯，AI與日俱增的能力仍然讓人們對這個領域的關注日益加深。一家英國公司準備29製造一台處理能力比一般筆記型電腦快一億倍的電腦。DeepMind開發出一個名為加托（Gato）的智慧型代理機器30，會玩雅達利遊戲、堆積木、為照片加上說明文字，以及聊天。而OpenAI登上頭條新聞的聊天機器人ChatGPT31，雖然遠非毫無偏見亦不精確，但可以產生業務策略並以清晰的散文回答問題。全球創投對AI企業的年度投資金額32，在不到十年的時間，已從二○一二年的三十億美元成長到二千零七十億美元。總結專家的預測33，估計到了二○六○年，AI在任何任務上都有百分之五十的機會表現得比人類更好。
　　一個曾經被認為不可能的夢想似乎近在眼前即將實現了，伴隨而來的潛能不僅是變革性的益處，譬如更高的生活水平或癌症的治療方法，更是將人機對齊的問題升級至令人生畏的高度。在《斷崖》（The Precipice）34一書中，哲學家托比．奧德（Toby Ord）生動地描繪出AI可能危害人類的一幅逼真景象：透過不斷自我完善，同時具備控制數百萬個網路系統的能力，通用人工智慧（general AI）即可接管全世界的資源，從人力資本到海底巨大的礦產財富。最令人擔憂的是，奧德指出，「AI幾乎不可能被摧毀。」35
　　勢不可擋（Unstoppability）──這就是超人類人工智慧（superhuman intelligence, superhuman AI）與其人類創造者開始無可挽回地分道而行、也是流氓玩具船的有趣景象開始宛如科幻小說中噩夢成真的起點。AI不需要用生存本能或一丁點意識來反抗我們，它可能會阻撓任何試圖修改或關閉其目標的努力，因為這些努力違反了它的最重要使命──使目標達成最佳化的結果。奧德寫道，AI會將任何試圖關閉它的嘗試詮釋為「一種剝奪能力的方式，使它更難以獲得豐厚回報。」36
　　實現超人類AI本身的高度風險，以及我們在躍向這樣的一個目標時所缺乏的降落傘，都是安全與控制問題會在一個曾經只想實現力量的領域中變成當務之急的主因。二○二三年，超過37一千五百名科技領袖與研究人員敦促全球暫停推動最先進的AI；他們表示，研發人員「陷入了一場失控的比賽，競相發展並部署更強大的數位心智，卻沒有任何人（包括它們的創造者）能理解、預測、或可靠地控制這些心智。」人類無法再給AI輸入目標，然後退後一步，正如一位設計師所說，「光是祈禱並依賴魔法的力量。」38

第八章　「我不知道」機器人以及充滿不確定性的未來


希望的故事，是關於不確定性，
也是關於承受不知道接下來會發生什麼事的風險，
這比絕望更嚴苛，在某種程度上也更令人恐懼。
同時，回報也豐厚得數不清。1
──蕾貝卡．索尼特


　　機器人充滿不確定性，我感到很興奮。
　　在維吉尼亞理工大學（Virginia Tech）工程實驗室蜿蜒曲折的龐大複合建築深處，我正在教導一支固定在桌子上的機械手臂如何完成一項簡單的任務：使用雷射光在桌面「畫」一條線。這是必須自己動手做的一課，而我的目標是在機器人自行完成工作時，沿著...

引言
第一部：覺醒
第1章 承受高壓的心智：「已知」的陰暗面
第2章 「全新的觀點」：藉由未知的引導來發現重要之事
第二部：心智的羊腸小徑
第3章 為何遺忘並非損失
第4章 心智素描本的筆記
第三部：以「我們」來思考
第5章 個人觀點豎立起來的高牆之外：寬容如何讓我們重獲自由
第6章 異議蜂起：未知與合作的正確新契機
第四部：熱切抱負的心智
第7章 履險如夷的生活：領先並馴服未知
第8章 「我不知道」機器人以及充滿不確定性的未來

引言
第一部：覺醒
第1章 承受高壓的心智：「已知」的陰暗面
第2章 「全新的觀點」：藉由未知的引導來發現重要之事
第二部：心智的羊腸小徑
第3章 為何遺忘並非損失
第4章 心智素描本的筆記
第三部：以「我們」來思考
第5章 個人觀點豎立起來的高牆之外：寬容如何讓我們重獲自由
第6章 異議蜂起：未知與合作的正確新契機
第四部：熱切抱負的心智
第7章 履險如夷的生活：領先並馴服未知
第8章 「我不知道」機器人以及充滿不確定性的未來