法蘭克．巴斯夸利

【推薦序一】
人類社會的演算法：我們將往何處去？    劉靜怡 (台大國家發展研究所)

【推薦序二】
人工智慧無法到達的他方    王柏堯（中研院資訊科學研究所）

【推薦序三】  
通抵應許之地的律法  邱文聰（中央研究院法律學研究所研究員兼中央研究院智財技轉處處長）

第一章    緒論
以撒．艾西莫夫（Isaac Asimov）的機器人定律／機器人新律／專業精神與專業知能／專業知能（expertise）兩大危機／成本的好處／本書內容架構

第二章 療癒人類
決定何時該尋求醫療照護／AI的核心能力：避免常見錯誤／資料、歧視及健康不平等／不負責任四騎士／誰來訓練「學習型醫療照護系統」？／你的治療應用程式為誰工作？／解放護理人員？還是將護理工作自動化？／機器人照護的政治經濟學／在醫學中保持人味

第三章 超越機器學習者
教育的多重目的／簡單的新自由主義思維／將教育自動化／你的教學機器人究竟為誰工作？／持續注意與關注的缺點／修補或結束教育科技監控／對於機器人幫手，應有更積極的選項／跟什麼比？AI教育科技與低度開發國家／抵抗新行為主義／以人為本的教育

第四章 AI自動化媒體的「異智慧」
當文字可以殺人／大型科技公司的「不在席投資者」 問題／恢復網路媒體的責任／打散網路注意力的工具／正義和包容性的治理不是演算出來的／被遺忘的權利：人性自動化的測試／馴服自動化的公共領域／終極機器人來電者／回歸新聞專業精神／將媒體AI人性化

第五章 由機器評價人類
機器人評價（robotic judgments）的吸引力（和危險）／誤認，就是不尊重／以貌取人：從人臉辨識到人臉分析／當銀行業普惠金融 成為可怕的掠奪性工具／信用評等社會中的內化服從／扭轉局面，轉而占「評價式AI」的上風／生產力vs.權力

第六章 自主的力量
想像一下用機器人進行屠殺／殺手機器人令人不安的案例／殺人機器人與戰爭法／在大國競爭中加碼賭注／施行禁令的障礙／對戰爭機器人負責／讓武力更為昂貴／合作的邏輯／「科技不作為」與軍用AI商業化的內在阻力／合作之路

第七章 反思自動化的政治經濟
從職業訓練到創新治理／從補助到輔助原則／高等教育的本質和工具性／在自動化時代重整稅收政策／從全民基本收入到工作保障／質疑「成本病」／自然而然的經濟轉型／負擔的方法：公共財政的更新／從「更多的AI」到「更好的AI」

第八章 運算能力和人類智慧
自動化的政治、經濟與文化／自我感覺良好是種自欺欺人／最終的顛覆／具像化的心靈與人工資訊處理者／外包人性／藝術、本真性與擬像／勞動的願景／擴大「可說」的範圍／藝術的回應與道德的判斷／自動化「自動化發動者」／共同創造工作的未來

 

推薦序之一

人類社會的演算法：我們將往何處去？
劉靜怡教授 (台大國家發展研究所)

　　本書作者巴斯夸利是我相熟多年的哈佛學弟和學術界好友，除了長年以來在歐美法學界相當活躍之外，目前更是美國商務部「國家人工智慧諮詢委員會」（National Artificial Intelligence Advisory Committee，簡稱NAIAC）這個法定委員會中，絕無僅有的兩位具法律學者背景的諮詢委員之一（另一位是任教於史丹佛大學的Daniel Ho教授）。

　　這個委員會是根據《國家人工智慧創新法案》（the National AI Initiative Act of 2020）此一聯邦法律的授權二○二一年秋季正式成立，接著在二○二二年春季確定委員人選而開始運作的。這個委員會的職責，主要是針對人工智慧（AI）相關議題向美國總統及其他聯邦政府機關提供建議，究其目的，不單單是美國想藉此確保其在人工智慧研發上的領導地位而已，也決意在公私部門中推動「可信賴的人工智慧」（responsible AI）此一價值取向濃厚的原則，並且針對人工智慧對勞動力與工作樣貌所帶來的影響預作準備，以及討論人工智慧對個人基本權利所造成的衝擊等等。

　　對於熟悉作者學術關懷和學術成就者而言，巴斯夸利作為NAIAC首任委員這個在美國人工智慧領域極具象徵意義的重要職位，可謂實至名歸。而對於作者著述來說，本書是其在哈佛大學出版社所出版的第二本專書，其誕生可以說是他學術寫作生涯中極其自然的發展。

　　就近年來歐美學界關於演算法相關議題的開發耕耘歷史來看，作者的前一本書，也就是同樣由哈佛大學出版社二○一五年所出版的《黑箱社會：控制金錢和信息的數據法則》（簡體中譯名，The Black Box Society: The Secret Algorithms That Control Money and Information）這本書，可以說是具有定錨作用。在該書中，作者以相當細膩的描寫手法說明了各種目的及其運作幽微不清的公私部門資料庫，以及相應之下各種人工智慧演算法的運用，對於政治、教育、財金、商業等領域，帶來了哪些幾乎難以逆轉的負面影響，並且，基於上述觀察，巴斯夸利也從法學者獨有的訓練和視野出發，在該書中提出了不少既具有嚴謹論證特色又堪稱務實的主張和建議。

　　二○一五年《黑箱社會》書出版至今，在歐美學界各領域均獲得高度重視和廣泛引用，幾乎已是不容否認的事實。例如嗣後在二○一九年出版《監控資本主義時代》（The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power）此一巨著備受矚目的哈佛商學院教授肖莎娜．祖博夫（Shoshanna Zuboff），就曾經明白指出巴斯夸利的論述，對她的思維與寫作產生頗為深遠的影響。

　　於是，隨著書名，「黑箱社會」廣為人知而逐漸成為資訊及演算法相關議題的主軸之一後，人類社會在人工智慧的潮流下，到底將走向何方，也就自然而然地成為作者接下來難以拒卻的知識探索和寫作之旅。

　　因此，作者在新冠疫情全球爆發之際於二○二○年所出版的第二本書中，以艾西莫夫（Isaac Asimov）的「機器人定律」為基礎，提出「機器人四大新律」的主張，並且具體而微地以醫療、教育和媒體等領域當成分析和探究對象，說明人工智慧的優劣長短所在，並且進一步從各種AI評分判斷系統、自動武器系統的正反辯論、人工智慧政治經濟學分析、以及以人為本的AI（human-centered AI）等面向，勾勒出作者對於人類專業智能在人工智慧潮流下應該扮演何種角色的看法。以上所述種種，在我讀來，幾乎都可以說是作者延續了前一本書所提出的主張，進而透過旁徵博引和更為深入的論證，嘗試為儼然已經到來的演算法社會，奠定「人之所以為人」的理論基礎。

　　巴斯夸利可說是個人工智慧樂觀主義者，他認為人類應該有能力延續「維護的文化」而非「破壞的文化」，此種人工智慧文化的內涵，是對人類的輔助與補充，而不是取代人類。雖然，乍看之下，本書在提倡二十一世紀機器人新律之餘，似乎是以人類專業智能在人工智慧社會中如何繼續扮演核心角色為論述主軸。然而，這個以人為本的人工智慧原則，似乎也促使我們思考演算法社會「人之所以為人」的另一個重要面向：當人工智慧相關科技衍生出對人類社會的各種衝擊時，對於像我這樣關心憲法議題的資訊法學者來說，正是民主憲政的運作又遭受另一波嚴峻挑戰的關鍵時刻。

　　換言之，如果「以人為本」是「我們」「人類」對人工智慧或演算法社會的基本共識，那麼，人類的憲法傳統運作模式，究竟應該以及如何因應演算法社會的「人類基本權利」保障挑戰，以免披著技術決定論與效率外衣的演算法所形塑和支撐的各種有形無形權力，可以巧妙而令人難以察覺地迴避民主監督，導致民主憲政的基本價值在科技創新的口號下遭到淹沒或稀釋。保障人類基本權利或許也是我們在思索作者所期待的由人類治理而不是機器統治的世界是如何可能、如何維護之際，必須齊心合力做好的功課。

　　最後，要附帶一提的是，在這本書的寫作與誕生過程中，作者曾經受筆者之邀三度來到台灣進行學術訪問，所以，本書絕大部分的內容，曾經在訪台期間多個演講中發表過，作者也就本書內容和台灣人工智慧法律和科技等相關領域多位學者深入討論，這也是本書謝辭中出現多位台灣法律學者名字的背景。然而，更重要的是，如果要說台灣出版這本書中譯本具有任何重要意涵的話，不應該僅止於這本書的台灣連結，而是向來追求科技潮流的台灣社會，應該認真思考這本書所標舉的「以人為本的人工智慧」，其真正價值與啟示所在。