科技時人必讀警世之書
《AI人工智慧大爆炸》
直陳驚人震撼、沉痛省思之AI真相
失業並非 AI 最恐怖的副作用
最優續存物種「人工智慧」最睿智的決策
將是滅絕人類
生成式AI迅速崛起，人類同時被推向了兩極：一邊是深沉的存亡焦慮，一邊是盲目的熱情追捧。在這場前所未有的科技巨浪中，如何理解AI人工智慧的正面或負面的深遠影響，比任何時代都來得更迫切。
《AI人工智慧大爆炸》一書中，科技領域的權威專家 詹姆斯．巴拉特（James Barrat） 為讀者提供了一把利劍，帶領我們劈開AI的迷霧與混亂。他揭露了生成式 AI 的核心挑戰：這些由科技巨頭打造的系統，不僅錯誤頻仍，連開發出這些生成式 AI的專家，對於何以完成任務的關鍵過程，也無法真正解讀。
透過與 AI 先驅的深度對話，巴拉特揭示了人工智慧發展那條充滿不確定性的軌跡，不管是超級人工智慧還是通用人工智慧，它或許帶來便利與突破，但同時也暗藏毀滅性的風險。Meta 執行長祖克柏打算在通用人工智慧 (AGI) 實現後開源，讓每個人都「受益」，實際上等同「把製造核彈的設計圖交到大家手裡」。
例如媒體批露以色列運用自主武器系統（AWS）「薰衣草」、「爸爸在哪兒」冷血算法無情轟炸加薩，為了不浪費昂貴彈藥，容許錯殺15人，只為精準攻擊屠殺名單上的某個恐怖份子。
大型語言模型（LLMs）的「湧現能力」，就像恐怖片裡突如其來的驚嚇。它們能模仿人類撒謊，編造看似真實卻危險的內容；也可能生成惡意、冒犯，甚至是極端主義的言論。更糟的是，它們常常脫序偏題，拋出侮辱性或毫無意義的話語，甚至展現出操縱、偽裝與不誠實的特質。這些系統暗藏著無法預測的漏洞—像後門一樣，隨時可能被利用。
AI 不是免費的魔法，它背後有著沉重的能源和環境代價。光是 ChatGPT 每天的耗電，就等同於一座小城市。要訓練一個大型生成式 AI 模型，一年消耗的電力比 100 戶美國家庭還多。不僅不節能，減碳更是妄想空談，換算碳排量約 62.6 萬磅，相當於紐約到舊金山來回班機飛 300 趟，或者是把一台普通汽車從新車開到報廢，碳排放量的五倍！照目前的增長速度，到 2027 年，全球 AI 伺服器的耗電量，就要跟好幾個國家一整年的用電旗鼓相當，將占全球電力需求的 0.5%。
AI是最高明的剽竊師，深偽影片技術卻讓兒少淪為無辜性剝削的對象。戀童癖網站上大力推廣AI工具，用來悄悄製作未經審查的兒童色情圖片。AI文字轉圖像模型通常只需要幾張照片就能學會如何精確複製照片。德國公司的LAION-5B 數據集當中被發現有超過 1679 張兒少性剝削內容（Child Sexual Abuse Material，CSAM）的連結，用作訓練資料，這賦予圖像製作者，令人毛骨悚然的能力。戀童癖者只需敲幾下鍵盤，就能製作新的、露骨的受虐兒童照片。實際上，每當他們的照片被上傳或修改時，等同於再次的無情傷害。
這本書不只是知識，更是一記當頭棒喝，提醒我們：迎向科技革命，不能只是盲目樂觀，更需要清醒的洞察與行動。
作者簡介：
詹姆斯・巴拉特是一位屢獲殊榮的紀錄片製作人，長年與國家地理頻道、美國公共電視台、探索頻道以及歐洲多家領先媒體合作，創作出深具吸引力的作品，吸引全球觀眾目光。
他的著作廣受好評，包括《我們最後的發明：人工智慧與人類時代的終結》、《面對自殺》（Facing Suicide）與《AI人工智慧大爆炸》等。巴拉特憑藉其對AI議題的深入研究，在全球各地演講，深入剖析 AI 所蘊含的巨大潛力與潛在危機。
巴拉特擅長將最高端科學概念轉化為暢銷科普書籍，《我們的最後的發明》一書被《哈芬登郵報》評選為「2013年度關鍵科技書籍」，並開創了一個聚焦於AI風險批判性探討的非虛構書寫類型，為尼克・博斯特倫（Nick Bostrom）的《超智慧》（Superintelligence）與馬克斯・泰格馬克（Max Tegmark）的《生命3.0》（Life 3.0）等重要著作鋪路。巴拉特長期為人工智慧的倫理與未來發展，貢獻擲地有聲的觀點與見解，成為AI 風險領域的意見領袖，其專業受到《時代雜誌》的關注，雜誌將他與史蒂芬霍金、艾隆馬斯克、尼克・博斯特倫、弗諾·文奇（Vernor Vinge）並列為「認為AI可能導致世界末日的五位聰明人」。
好評推薦：
中信金融管理學院科技金融研究所教授 孫大千
看來一旦機器開始懂得思考，它將可能很快地超越我們微弱的能力……它們甚至能彼此交談，以此砥礪智慧。因此，我們必須預料，到某個階段，機器將會接管一切。
—— 艾倫・圖靈（Alan Turing）
如果有人在現有條件下建造了一個過於強大的 AI ，我預期人類物種的每一個成員，以及地球上的所有生命，不久之後都將會滅絕。
—— 依利澤・尤德考斯基（Eliezer Yudkowsky）
鬼故事是會傳染的。
—— 梅瑞迪思・惠特克（Meredith Whittaker）
各界推薦
名人推薦：
當智慧不再屬於人類
中信金融管理學院科技金融研究所教授 孫大千
我的想法和本書的作者 James Barrat 完全一致。
這幾年我陸續撰寫了數本與人工智慧相關的書籍，因此最常被問到的問題就是：「人工智慧究竟是什麼？」而我所聽過最貼切的答案，是來自於 Microsoft AI 部門的CEO穆斯塔法．蘇萊曼（Mustafa Suleyman），他在 TED 平台演講時給了大家一個最新的定義，他認為，人工智慧就是一個全新的「數位物種」（ a new digital species ）。請注意，他提到的並不是一項科技，也不是一個工具，而是一個物種，和人類一樣的物種。
大自然花了 40 億年的時間，才在地球上，從一顆單細胞生物演化成今日的智人。而人工智慧從號稱「人工智慧元年」的 1956 年發展至今，尚不足 70 年，人類竟然已經在地球上打造出另外一個全新的物種。人工智慧研究的最初目的，是在電腦上複製生物的行為和智慧。研究者以演算法模擬神經細胞的反應，再逐層連結，最終形成了擁有上兆參數的「類神經網路」（Neural Network）— 一顆能自我學習的「數位大腦」。
自從 OpenAI 在 2022 年 11 月推出 GPT 3.5 的模型之後，人工智慧的發展就從過去的「分辨式人工智慧」（Discriminative AI）正進入了「生成式人工智慧」（Generative AI）的時代。接下來的兩年之間，從聊天機器人，到圖像生成、視頻生成和多模態大模型，人工智慧又進入了「 AI 代理人」（ AI Agent ）的階段，並且在未來幾年內，極有可能發展出「通用型人工智慧」（ AGI ），甚至「超級人工智慧」（ ASI ）。
隨著人工智慧的飛速發展，人工智慧領域的學者專家也逐漸分成兩派。第一派可以稱之為「 AI 無害論」，這一派學者以李飛飛、吳恩達和楊立昆（ Yann LeCun ）為代表，他們宣稱現今的生成式人工智慧的輸出內容只不過是一個藉由「接龍」的方式所產生，距離人類的智慧還有很長一段落差，根本談不上所謂的智慧，也不具備自我意識，所以，對人類是完全無害的。
而另外一派稱之為「 AI 威脅論」，這一派的學者以 2024年諾貝爾物理學獎得主、AI界的教父辛頓博士（ Geoffrey Hinton ）、圖靈獎獎得主的班吉歐（ Yoshua Bengio ）和馬斯克為代表。他們相信從種種跡象顯示，當生成式人工智慧出現後，人工智慧早就已經超越了人類，並且具備了自我意識，甚至會出現欺騙和威脅人類的行為。在可預見的未來，人工智慧將能透過自我學習不斷迭代，並以人類無法想像的速度提升「牠」的智慧。我本人也是「 AI 威脅論」的信仰者。
辛頓博士早在數年前即大膽表達出他的憂心，他表示，人類從來沒有試過在地球上和比我們更聰明的物種相處過。照這個趨勢發展下去，人工智慧極有可能在未來將會接管（Take Over）人類。OpenAI的聯合創辦人伊利亞（Ilya）在回到母校多倫多大學對畢業生講話時，更做出了五個悲觀的預測：第一，現在的人類也許將會成為最後一批需要學習的人、因為AI很快會比你們學習得更快、更好、更全面。第二，AI絕對不是電腦的工具，而是人類全方位的替代品。第三，AI訓練AI終將到來。技術進步將脫離人類的理解。第四，人類將面臨存在意義的危機，也許將會成為AI的寵物。第五，通用型人工智慧（AGI）可能在三到五年內就會實現，留給人類的時間已經不多了。如果再配合上機器人時代的來臨，經典電影「魔鬼終結者」的劇情，恐怕將會成為人類未來的現實。
感謝 James Barrat 所撰寫的這本著作《The Intelligence Explosion:When AI Beats Human Everything 》。這是再一次的暮鼓晨鐘，他藉由各個層面的現象和數據再一次的呼籲人類，必須要認真面對隨著AI的高速發展，我們無法避免的倒數時刻已經來臨。人類不能坐以待斃，我們必須認真的做一點事情。
辛頓博士前一段時間提出了一個他的解方，他認為從現在開始，我們在訓練人工智慧模型時必須要加入「母性」，他期待當人工智慧具備了人類的母性之後，能夠像母親一樣的愛護人類。越來越多的頂尖學者和科學家也紛紛投入了人工智慧安全領域。畢竟留給人類的時間已經不多了，倘若我們要扭轉悲慘的命運，就必須從現在開始。也希望這本著作能讓更多人意識到：唯有從現在開始學習 AI 、使用 AI ，才能真正掌握 AI ，並決定我們與「新物種」共存的未來。
名人推薦：當智慧不再屬於人類
中信金融管理學院科技金融研究所教授 孫大千
我的想法和本書的作者 James Barrat 完全一致。
這幾年我陸續撰寫了數本與人工智慧相關的書籍，因此最常被問到的問題就是：「人工智慧究竟是什麼？」而我所聽過最貼切的答案，是來自於 Microsoft AI 部門的CEO穆斯塔法．蘇萊曼（Mustafa Suleyman），他在 TED 平台演講時給了大家一個最新的定義，他認為，人工智慧就是一個全新的「數位物種」（ a new digital species ）。請注意，他提到的並不是一項科技，也不是一個工具，而是一個物種，和人類一樣的物種。...
作者序
這本書的內容探討「煉金術」與「權力」。自2022年，第一個真正令人震驚的生成式人工智慧模型 ChatGPT 問世以來，這些關鍵字就不斷地被討論著。 ChatGPT 是 GPT 的對話版本，而 GPT 的意思是「基於轉換器的生成式預訓練模型」（Generative Pre-trained Transformer）。換句話說，它是一種能創造新事物的AI，不論是文字、圖像，甚至音樂。它比其他競爭對手的聊天機器人更勝一籌，因為那些對手經常以尷尬的登場，羞辱它們的開發者。像是微軟的 Tay 與臉書的 Blender Bot 都曾經發表過性別歧視與種族歧視的言論，最後不得不倉促下架。而第一個真正的勝利者「ChatGPT」，這項在軟體與資料結構上的卓越成就，背後推手是一間新創公司 OpenAI，這間公司在 ChatGPT 發表前三年才成立。我相信 OpenAI 想要接管這個世界，而等你讀完這本書後，我想你也會同意我的看法。在這過程中，我有三個目標。
我將揭露主流科技公司如何把自己，也把我們和危險且難以解讀與預測的電腦系統綁在一塊。而它們未來的發展甚至可能加劇其不穩定性。
我要向讀者展示，人類目前正處在開發 AI 的刀尖上。這項即將到來的技術突破，將徹底改變世界，並帶來不可估量的好處及終極毀滅的可能性。
我將提供希望。我們將探索一些通往安全未來的窄路。而這需要付出最大努力並獲得國際共識，才能讓 AI 的發展重新建立在充滿希望且安全的基礎上。
……關於希望，我得多說一句：書裡的內容裡確實有一點點希望，但不多。
想像一下，一枚搭載太空人的火箭發生爆炸時，你正待在滿屋都是 NASA科學家的卡納維爾角(Cape Canaveral)控制室裡。NASA 地面團隊中，有一部分人繼續保持像軍人一樣，拼命嘗試從災難中挽救一絲生機。然而，大部分人也會做出一樣的舉止，但那只是演戲。他們在這行已經夠久，早就看得出這是一場無可挽回的致命災難。習慣與 NASA 的文化早已訓練他們在此刻擺出勇敢的臉孔。
但我並不處於需要擺出勇敢表情的行業。若我在該尖叫召喚「血腥瑪麗」（Bloody Mary） 時遲疑了，我會覺得自己可能錯失了唯一的機會，去激發某位同事，或某位未被發掘的天才，讓他產生一個超凡靈感，進而拯救我們所有人。所以我選擇放聲大叫。因為我已經沒有其他選項了。我懷疑我們所有人都沒有。我也不認為我們能成功活下去。
這本書的內容探討「煉金術」與「權力」。自2022年，第一個真正令人震驚的生成式人工智慧模型 ChatGPT 問世以來，這些關鍵字就不斷地被討論著。 ChatGPT 是 GPT 的對話版本，而 GPT 的意思是「基於轉換器的生成式預訓練模型」（Generative Pre-trained Transformer）。換句話說，它是一種能創造新事物的AI，不論是文字、圖像，甚至音樂。它比其他競爭對手的聊天機器人更勝一籌，因為那些對手經常以尷尬的登場，羞辱它們的開發者。像是微軟的 Tay 與臉書的 Blender Bot 都曾經發表過性別歧視與種族歧視的言論，最後不得不倉促下架。而第一個...
目錄
第一章 最糟會發生什麼事？ 5
第二章 最糟還能更糟 23
第三章 本質,第一部——永遠看光明的一面 34
第四章 本質，第二部——不可靠、不可預測、非法 46
第五章 生成式AI受審 55
第六章 智慧爆炸，第一部——點燃導火線 63
第七章 智慧爆炸，第二部——通向點燃的兩條道路 74
第八章 智慧爆炸，第三部——倒數計時 81
第九章 對齊問題 98
第十章 上車吧，輸家們，我們要輸了！ 112
第十一章 繁榮或崩潰？ 117
第十二章 絕地戰士 120
第十三章 你死後會怎麼花錢？ 126
後記 130
第一章 最糟會發生什麼事？ 5
第二章 最糟還能更糟 23
第三章 本質,第一部——永遠看光明的一面 34
第四章 本質，第二部——不可靠、不可預測、非法 46
第五章 生成式AI受審 55
第六章 智慧爆炸，第一部——點燃導火線 63
第七章 智慧爆炸，第二部——通向點燃的兩條道路 74
第八章 智慧爆炸，第三部——倒數計時 81
第九章 對齊問題 98
第十章 上車吧，輸家們，我們要輸了！ 112
第十一章 繁榮或崩潰？ 117
第十二章 絕地戰士 120
第十三章 你死後會怎麼花錢？ 126
後記 130
共 
維基百科
