超智慧：AI風險的最佳解答-FindBook 找書網 ISBN:9786269736607

內容簡介

我們創造的，是否終將毀滅我們？
★ 洞悉AI本質必讀，比爾・蓋茲極力推薦 ★

人工智慧狂潮再起——軟、硬體、相關零組件產業迅速改變世界，
𓅓為何上千名科技巨擘、AI專家反而連署警告？
𓅓為何AI毀滅人類的風險，等同核武戰爭與傳染病？
𓅓為何AI帶來的改變有多積極，它的負面影響就令人感到多絕望？

＼＼＼這本書都有答案！／／／
　　

　　本書以一篇「未完的麻雀寓言」開場，
　　講述一群麻雀企圖馴服貓頭鷹為己所用，
　　但最終沒能解決最重要的難題：如何控制牠？

　　這篇如同啟示錄的寓言，在在提醒人類與人工智慧的關係，
　　我們發現，人工智慧和人類價值之間的連結相當鬆散，
　　AI專家與菁英學者、企業家們，尚未解決最重要的「控制難題」。

　　重點不是人工智慧將扮演什麼角色，
　　而是我們「設計」它為人類社會扮演什麼角色？

　　＼＼＼人工智慧領域的經典之作，出版至今仍是科技思想最前沿／／／
　　人腦擁有其他動物所缺乏的能力。因為這些獨特能力，我們在地球上居主宰地位。其他動物有更強的肌肉或更尖利的爪子，但我們有更聰明的頭腦。我們在常態智慧上的優勢，讓我們發展了語言、技術和複雜的社會組織。但如果有一天我們打造了常態智慧上超越人腦的機器腦，那麼這個全新的超智慧就會變得十分強大。

　　就如猩猩的命運如今多半操之於我們人類，而非牠們自己手中一樣，我們的命運接著也將操之於超智慧之行動。但我們有優勢，就是我們可以先發制人。因為它們是我們所創造的東西，因此我們可以打造出一種能保護人類價值的超智慧，來控制超智慧的行徑，好讓人類在這場智慧爆炸下仍能存活。但，我們該如何達成一場可控制的爆發？

　　＼＼＼全球五十歲以下引用次數最多的哲學家／／／
　　本書作者伯斯特隆姆從當前人工智慧研究取徑和現況中，找出可能達成超智慧的途徑，包括人工智慧、全腦仿真、生物認知、腦機介面、網路和組織的強化，並帶領我們思考，這樣一個超智慧一旦出現，可能會如何行動，以及它的行動是否會對我們的生存造成威脅，而我們是否有方法在它變成超智慧之前，該如何做好能力控制和動機選擇。

　　身為牛津大學哲學系教授，作者特別強調強調動機選擇的關鍵性，但要植入哪一種價值的決定，有非常深遠的影響；而人類的價值又如何能轉譯成人工智慧所能理解的形式語言。這些都是嚴峻的挑戰。作者從頭到尾都謹慎地為人類尋找出路。
在這本極具創見的書中，呈現了超智慧的前景和面臨的挑戰，以及我們該如何應對。這可能是人類有史以來要面對的最重要、最艱難挑戰。

重量級推薦

　　比爾．蓋茲（Bill Gates）｜微軟創辦人、OpenAI大股東
　　伊隆．馬斯克（Elon musk）｜特斯拉執行長
　　尼爾斯．尼爾松（Nils Nilsson）｜人工智慧先驅，史丹佛大學電腦科學教授
　　麥斯．泰德馬克（Max Tegmark）｜麻省理工學院物理學教授
　　史都華．羅素（Stuart Russell）｜加州大學柏克萊分校電腦科學教授
　　馬丁．里斯（Martin Rees）｜數學家、前皇家學會會長
　　奧勒．哈格斯特羅姆（Olle Häggström），數理統計學教授

各界推薦

　　你應該擔心人工智慧，我極力推薦本書。──比爾．蓋茲（Bill Gates）

　　值得一讀……面對人工智慧我們得極其小心。」──伊隆．馬斯克（Elon musk）

　　每個聰明人都該讀。──尼爾斯．尼爾松（Nils Nilsson）｜人工智慧先驅，史丹佛大學

　　這本由全球思路頂尖清晰的思考者所作的傑出分析，處理了人類最大的一個挑戰：如果未來的超人工智慧成為人類史上最重大的事件，那麼我們要怎麼確保那不會是最後一件事？──麥斯．泰德馬克（Max Tegmark）｜麻省理工學院物理學教授

　　尼克．伯斯特隆姆提出很有說服力的理由，說明人工智慧未來的影響可能是人類至今所要面對的最重要問題。超智慧用前所未有的詳細度，標示了未來底下潛藏的暗礁。它也標記了新時代的開端。──史都華．羅素（Stuart Russell）｜加州大學柏克萊分校電腦科學教授

　　那些傾向於將「人工智慧接管世界」當作科幻而忽視的人，在看過這本獨創而論理充分的書之後，可能要重新思考一下。──馬丁．里斯（Martin Rees）｜數學家、前皇家學會會長

　　十分重要……見地獨創……判斷極其精準且內容明晰，使他（伯斯特隆姆）能將自己橫跨極廣光譜的學門──工程、自然科學、醫學、社會科學和哲學──所得到的廣泛知識一以融會貫通……如果本書得到了應有的待遇，那它最終將可成為繼1962年瑞秋．卡森的《寂靜的春天》之後，甚至有史以來最重要的警鐘。──奧勒．哈格斯特羅姆（Olle Häggström），數理統計學教授

　　有價值。把第二種智慧物種引入世上的影響是如此地深遠，因而值得努力思考。──《經濟學人》

　　（伯斯特隆姆）論點的力量是毋庸置疑的……這難題值得下一世代最優秀的數學才能進行研究挑戰。人類文明正在危機邊緣。──《金融時報》

作者介紹

作者簡介

尼克．伯斯特隆姆（Nick Bostrom）

　　牛津大學哲學系教授，其學術背景包含理論物理學、計算神經科學、數學邏輯、人工智慧以及哲學。他在全球五十歲以下的哲學家中被引用次數最多，擁有廣泛的影響力。伯斯特隆姆同時是牛津馬丁學院人類未來研究所（Future of Humanity Institute）的創立者和所長。這個跨學科的研究中心聚集了一群傑出的數學家、哲學家和科學家，共同致力於深入探索人工智慧的安全與政策、生物安全、宏觀策略、數位思維倫理等關鍵科技與基礎問題。

　　伯斯特隆姆的學術成就與貢獻受到廣泛讚譽。他是TED大會的常客，多次在此發表演講，並且已接受超過一千次來自各類媒體的採訪。他的學術實力和影響力使他兩度榮登《外交政策》（Foreign Policy）雜誌的全球百大思想家名單，並且作爲最年輕的思想家之一，他也成功躋身於《展望》（Prospect）雜誌的世界思想家排行榜前十五位。

　　除此之外，伯斯特隆姆相當多產，已出版約二百篇著作，包括具有開創性的《人類偏誤》（Routledge）、《全球災難風險》（編輯，牛津大學出版社）以及《人類增強》（編輯，牛津大學出版社）。他的學術作品被翻譯成三十多種語言，並在全球廣泛流傳。本書《超智慧》更是受到學術與實務領域推崇，每當人工智慧議題再起，必定名列經典必讀之作。

譯者簡介

唐澄暐

　　政治大學新聞系、台南藝術大學紀錄所畢業。曾任《台灣立報》國際版版主及編譯。喜愛怪獸及幻想作品，目前同時從事翻譯及怪獸小說寫作。譯有《世界觀：現代年輕人必懂的科學哲學和科學史》《我們的知與不知：：探索科學、歷史、人類心智的知識邊界》、《五十億年的孤寂》、《地球之後》、《數字公民》等書。

寫在前面未完的麻雀寓言
序言控制超智慧的超級難題

第1章人工智慧的無盡春天
第2章邁向超智能的途徑
第3章超級能的形式
第4章智慧爆發的動力學
第5章關鍵策略優勢
第6章接管全世界
第7章超智慧的意志
第8章我們創造的，終將毀滅我們？
第9章控制難題
第10章先知、精靈、君王、工具
第11章多極情境
第12章獲得價值
第13章選擇「選擇準則」
第14章策略景況
第15章緊要關頭

致謝
注釋
參考書目和文獻資料

看更多

序

序

寫在前面
未完的麻雀預言

　　築巢季節，麻雀們歷經數日辛勞，一同坐在夕陽下放鬆、聊天。

　　「我們太弱小了。要是有隻貓頭鷹來幫我們築巢，日子會多輕鬆！」

　　「就是說啊！」另一隻說。「我們還可以用牠來照顧老小。」

　　「牠可以給我們一些忠告，還可以提防周遭的貓。」第三隻麻雀附和。

　　然後，年長的鳥兒帕斯圖斯（Pastus）開口了：「這樣吧，我們向各方發動偵查，找找被遺棄的貓頭鷹雛鳥或是鳥蛋。小烏鴉或許也行，不然就小鼬鼠。要是成了，那可真是好事一樁，至少會是後院開了湧泉亭（Pavilion of Unlimited Grain）以來最棒的事。」

　　麻雀們興奮不已，開始四處嘰嘰喳喳。

　　只有個性焦躁的獨眼麻雀史克隆芬克（Scronkfinkle）懷疑這種企圖是否明智。牠說：「這一定會失敗。把貓頭鷹帶到族內之前，不是該先思考如何馴服這個怪物嗎？」

　　帕斯圖斯回道：「馴服貓頭鷹似乎十分困難。光是要找到貓頭鷹蛋就已經夠難了，等我們成功養大貓頭鷹，再來考慮這項挑戰吧。」

　　「這計劃有缺陷啊！」史克隆芬克驚呼。然而鳥群早已飛去執行帕斯圖斯的指示，牠的抗議已是徒勞。

　　只有兩三隻麻雀留了下來。牠們一起探討要怎麼馴服貓頭鷹，不久，大夥兒便察覺史隆芬克的擔憂沒有錯：這是個相當困難的挑戰——特別是在找到供他們驅使的貓頭鷹之前，不可能有貓頭鷹讓他們練習。即便如此，牠們還是竭盡所能探討，深怕鳥群還不知道怎麼控制貓頭鷹這個難題，就把貓頭鷹蛋帶了回來。

　　這個故事會如何結束仍屬未知，但作者將本書獻給史克隆芬克，以及跟隨牠的人。

控制超智慧的超級難題

　　正在進行閱讀的，是你頭蓋骨裡的那個東西：人腦。人腦具有其他動物腦袋缺少的能力；我們之所以能主宰地球，得歸功於這些能力。其他動物有更強壯的肌肉、有更尖銳的爪子，而我們有更聰明的頭腦。人類一般智力上的優勢，讓我們發展出語言、技術以及複雜的社會組織。當新一代以上一代的成就為基礎而前行，這些優勢也隨著時間疊加。

　　如果有一天，我們打造出超越人腦的機器腦，這個全新的超智慧可能會非常強大。此外，就如大猩猩的命運如今掌握在人類手中（而非牠們本身），我們的命運也可能取決於超級智慧機器的行動。

　　我們的確有優勢：畢竟這東西是我們創造出來的。原則上，我們應該打造出一種能保護人類價值的超智慧，這麼做也的確有充足的理由。但事實上，所謂「控制難題」——也就是如何控制超智慧的難題——似乎相當困難，成功的機會恐怕也只有一次。一旦不友善的超智慧出現，它有可能會阻止我們替換掉它、或是改變它的偏好。屆時，我們的命運大勢已定。

　　在本書中，我試著理解超智慧的前景所呈現的挑戰，以及我們該如何應對。這很可能是人類有史以來得面對，最重要也最艱難的挑戰。不論成敗與否，恐怕都是我們將面對的最終挑戰。

　　書中的論點並未指出我們正處於人工智慧重大突破的臨界點，也未準確預測進展何時會發生。雖然這一切看似將在本世紀的某一時刻發生，但我們其實無法肯定。頭幾個章節確實討論了某些可能的途徑，也提及時間點的問題，然而本書的主體主要還是聚焦在發生之後該怎麼辦。我們研究了智慧爆炸的動力學、超智慧的形式和能力，以及當超智慧行動主體（agent）獲得關鍵優勢後，我們可用的策略選項。接著，我們將焦點轉移到控制難題，並提問：在形塑初始條件時，我們可以做什麼，好得出一個有利的結果，讓人類得以存續？在本書結尾，我們將拉開視野，並從我們的探索中思考更廣泛的景況。我們提出一些設想：當前人類必須做什麼，才有較大的機會避免日後的滅亡危機？

　　這本書並不好寫。我希望本書可以釐清一條路徑，以便其他研究者能更快捷向前推進，抵達知識的前沿，並準備好投入研究，進一步拓展我們理解的範疇。（如果開展的這條路上有些顛簸崎嶇，我希望評論者在給予評價時，不要低估了先前並不友善的地形！）

　　寫這本書不容易：我得試著讓它成為一本易讀的書，但我不覺得自己有成功達成目標。撰寫過程中，我設想的目標讀者是早期的我，並試著寫出一本我會喜愛的書。但後來我發現，這個人口取樣過於狹隘。儘管如此，我仍然相信如果世人願意多多思考，並試著不用文化語彙中最相近的俗成語意來吸收那些容易遭誤解的新想法，本書的內容應該是容易理解的。書中偶爾會出現數學或專業名詞，非技術背景的讀者不必因此感到挫折，你可以從前後的解釋拼湊出主要的論點（然而，對那些想更了解真相的讀者來說，書末的注釋可謂應有盡有）。

　　本書提出的不少論點有可能是錯的。我可能忽略了幾項關鍵性的考量，使我的某些結論、甚至多數結論都站不住腳。我花了不少篇幅指出全書中不確定事物的細微差別和程度，也用了諸多如「有機會」、「可能」、「或許」、「有可能」、「似乎」、「或可」、「幾乎可說」這些不美觀的字眼。每個修飾語都經過深思熟慮，小心置於文句中。然而，這些在認識論上表達謙虛意向的強度並不足夠，還得經由不確定性與可證偽性的驗證來彌補。這並非故作謙虛；儘管我相信本書有可能嚴重錯誤且誤導讀者，但我仍然認為文獻中呈現的其他觀點（包括既存的「零假設」（null hypothesis）觀點）甚至更糟——根據那些說法，我們仍然很安全，而且可以合理忽視超智慧的未來發展性。

看更多