拯救我們的自由：數位時代的起床號

譯者序李建良
推薦序 科學家的能與不能廖弘源
推薦序 正視人類自由的歐本海默時刻劉靜怡
推薦序 重拾以肉身為度的思想自由黃冠閔
推薦序 生而自由，行於枷鎖之間張麗卿
導 讀 一記刺耳的警鐘李建良

楔子
1 我們自由受到威脅程度之大，遠勝於過去
基本權利保障我們的自由，但無法讓我們免於被操控
來自AI的攻擊
AI只能偵測模式—AI可以偵測模式！
AI的許諾：無憂無慮的生活
AI的問題：AI威脅我們的自由─
來自資本的攻擊
經由操控進行剝削
企業巨擘權力集中的危險
來自右翼的攻擊
數位溝通工具的濫用
無真相，無自由
來自國家的攻擊
安全至上
看看東方：被控制的個人已然在此

2 我們必須珍惜自由！
個人自由是尊嚴生活的前提要件
自決的生活是幸福的生活
只有自由的社會才會進化

3 我們必須拯救自由！
對經濟進行管制！
打破權力的集中
禁止自動生成的推薦
把IT企業轉換為資料受託人
管制演算法，資料的匿名化
節制國家的權力！
我們必須測試、監督並控制所有的AI
AfD測試、建立指標、安全法案失效機制
保存開放的空間
防制獨裁的憲法
 
時間快要不夠了！
後記
注釋

 

序

　　數位時代，人們可以絕妙地快速驅動，線上購物、Facebook、Netflix、維基百科、線上遊戲、Twitter，還有更多更多，多完美的生活啊！身寓其中，我們享受所有的自由，任何事情的安排皆可依我所好。無論如何，我們讓自己如此地相信。實際上，我們是被科技驅使的，無時不刻檢視智慧手錶顯示的脈搏、按照旅館評分決定我們的去路、一有動靜就抓起智慧手機，還有讓自己迷失在YouTube影音的漩渦裡。這是一種系統，一種帶有強力吊鉤的系統，慢慢地把我們掛在上面，不得自由。

　　除非我們馬上行動，否則我們的生活很快就會被演算法所決定，不再是我們自己的選擇。

　　但是，問題不在科技本身，而是企業，它們把我們公制化，並操縱我們；還有右翼民粹份子，不是欺騙我們，就是恫嚇我們；再加上國家，正在監控我們，推定我們有罪，直到自證無罪為止。眾此三者全都把轅軛套在我們的脖子上，同時滿足我們尋歡作樂、宣洩憎恨，乃至渴望安全的需求。這是一種極其柔軟的轅軛，在我們毫無所感的時候，奪走了我們的尊嚴。

　　不過，我們還是可以阻止演算法大祭司讓人性又再次墮入新的中世紀時期──這次不是屈從於宗教，而是臣服於超能的機器。

　　為了避免上述情形，第一，我們必須洞悉我們如何因不斷追求便利而犧牲了自己的自由和尊嚴；第二，我們必須牢記我們擁有的自由何其可貴；以及，第三，我們必須找出解救自由之道，但又不必放棄數位化帶來的好處。

　　是的，這是有可能的：在一個數位的未來，我們可以自由地、自主地、享有尊嚴的生活。為達此目標，政治部門，還有我們個人都必須有所行動。

譯者序

　　二○二二年十一月二十三日，彼強．莫伊尼（Bijan Moini）博士應邀來台參加國家人權委員會與中央研究院法律學研究所合辦的「資訊科技防疫與人權挑戰」國際研討會，報告德國科技防疫人權課題，並參與圓桌論壇。我是主辦方的主人之一，因緣結識莫伊尼博士。言談中，得悉他隔（二十四）日要參加國家圖書館與歌德學院（台北）德國文化中心為其二○一九年小說Der Würfel（中譯：《演算人生》）舉辦與讀者面對面對談的活動。這本書榮獲二○二○年Seraph科幻小說新人獎及二○二○年德國最佳德語科幻小說獎，展現莫伊尼博士在法律專業之外的文學造詣，彰顯他身為法律人藉由通俗文學反映時代議題的人權關懷。

　　後續電郵往返中，無意間談及他的一本小書：Rettet die Freiheit!，以科普散文形式表達對數位時代下人們自由逐漸受到威脅的憂心，並且提出預警與解方。這樣的警訊無疑也應該傳達給台灣讀者，爰有中譯及在台發行的構想。其間，惠蒙遠流出版公司應承此項企劃，洽談版權並負責編輯事宜，讓發想成為事實。

　　大凡創作著述，都有對話的對象。莫伊尼博士以德文寫作本書，基本上是訴諸德語讀者；本書的英譯本考量英語讀者，在內容上做了若干微調；我則以德文原版為主，以英譯版為輔，兼採譯註，儘可能讓本書意旨如實傳真給華語讀者。在原文轉換語境的過程中，時有難以精確掌握原文意涵的困頓，所幸經由與莫伊尼博士的直接溝通與釋疑，得以免去Traduttore、traditore（譯者，叛者）的窘境，同時身歷一趟難得的知性之旅。

　　譯稿完成後，荷承中研院資訊所廖弘源所長、台大國發所劉靜怡所長、中研院文哲所黃冠閔所長初閱譯文，並惠賜推薦鴻文，編校過程，復蒙實踐大學法律學系張麗卿講座教授撰文薦言，讓本書為之增色，謹致由衷謝忱。脫稿前，莫伊尼博士特地為中譯版撰寫一篇後記，補述新近發展與觀點，引領我們站在時代轉向的關鍵點，把批判與警覺的眼光投向未來，併此致上誠摯的謝意！

科學家的能與不能
廖弘源 中央研究院資訊研究所特聘研究員兼所長
 
　　中央研究院法律所李建良所長翻譯這本名為《拯救我們的自由——數位時代的起床號》，並請我寫序。說實在的，原本是基於同事的情誼而答應，不然以我非常貧乏的人文素養，實在很想說不。我個人的專長本來就與數位轉型有密切的關係，從二○○○年左右的電子化政府，二○○二到二○一二年之間的「數位典藏國家型計畫」，都有親身參與的經驗。當初全力投入數位轉型的工作，一方面希望以科技幫助人類能夠過更便利的生活，另一方面也希望盡一己之力，數位化台灣具有典藏價值的文物，讓它們能被長久保存。但是，我從未思考過這些先進技術對人類可能帶來負面的衝擊。

　　李所長所翻譯的〈楔子〉中有一句話：「除非我們馬上行動，否則我們的生活很快就會被演算法所決定，不再是我們自己的選擇。」這句話真正打醒了我。萊特兄弟在一九○三年發明飛行器時除了充滿對科學的熱忱外，也希望為人類帶來真正的便利。但他們萬萬沒想到飛機後來被製造成戰鬥機、轟炸機，甚至還用來載運原子彈去轟炸廣島、長崎。書中還有一段：「但是，問題不在科技本身，而是企業，它們把我們公制化，並操縱我們；……這是一種極其柔軟的轅軛，在我們毫無所感的時候，奪走了我們的尊嚴。」接續的另外一段：「為了避免上述情形，第一，我們必須洞悉我們如何因不斷追求便利而犧牲了自己的自由和尊嚴；第二，我們必須牢記我們擁有的自由何其可貴；以及第三，我們必須找出解救自由之道，但又不必放棄數位化帶來的好處。」這些話真的點醒了身為科技人的我，也必須尊敬原著者彼強．莫伊尼能對這項近幾年才變得益發嚴重的議題，有如此深度的探討及希望喚起科技人良知的殷殷期盼。

　　探討這樣的議題其實是很困難的，它必須有多方考量，而且常常需腹背受敵。不過多方的探討此議題也可以讓各方瞭解其他人的想法，有討論才能讓爭議有收斂的可能。下面我舉一個在美國已爭議多年的議題為例。美國槍枝管制一直都是在濫殺事件發生之後，才一次又一次被拿出來討論。販售槍枝企業運用大量金錢遊說立法機關，希望賺更多錢。立法機關則面臨不同的壓力：執法單位如警察因為槍枝氾濫，在執法時提心吊膽，有些人會因此造成誤殺，當遭誤殺者為少數族裔或有色人種時，很容易引發暴動。住在郊區的一般百姓因為槍枝氾濫，要求火力更強的槍枝自衛，但他們也要擔心槍枝被小朋友拿出來把玩而誤傷自己或家人。立法機關代議士則夾在兩造之間，理由都聽起來非常有道理，況且常常會面臨「順了姑意，逆了嫂意」這種窘境。再看看台灣，槍枝的管制是非常嚴格的，但這對幫派份子而言卻替他們開啟一道很容易得逞的方便之門，因為一般百姓都沒有防衛能力，只能任人宰割。另一方面，幫派份子為了火拼方便或可以壓制警方的制式裝備，可以從黑市管道購買更強大的武器。如此一來，善良與邪惡之間的抗衡就越差越遠了。事實上像槍枝管制這種很弔詭的議題，從各方面看都是有道理的，但是立法者如何權衡較全面性的看法來優化最終的立法，則是有智慧的從政者需要考量的。如果只是考量會不會連任而忘記獨裁者可以一輩子貫徹自身邪惡的意念，那原本應該在民主體制底下享受自由的人們就離「自由」越來越遠了。這本書所談的非常有道理，目前的狀況是一般人民對不管是營業資料或個人隱私資料在數位時代較少被顧及。因為這個議題也是在網路興起後才顯出它的重要性。有一個開放的辯論及從各個不同的角度切入討論是急迫且需要的。

　　其實，彼強．莫伊尼所寫的這本書非常具有時代意義。人類常常因圖方便或眼前的利益放棄了自身應有的權利及尊嚴，而且是在不知不覺當中就範的。數位時代當然為人類帶來極大的便利，但彼強．莫伊尼這本書卻很詳細的告訴我們這些便利背後所隱藏的潛在危機及可能帶來的傷害。彼強．莫伊尼本身具有深厚的科技知識，也對人的社會有通盤了解。我相信他深知點出這些議題所必須面對的是什麼，但為了人類真正的自由及防範獨裁者濫用數位科技剝奪人類基本的權利，他挺身分析了所有的可能。他從科技面、社會面、法律面及人道面，詳細地告知我們應有的權利。讀完此書，我必須表達對他最大的敬意。當然，李所長的翻譯讓人一讀就懂也是非常重要的。