劉靜怡主編

編者序／劉靜怡
 
．人工智慧潛在倫理與法律議題鳥瞰與初步分析—從責任分配到市場競爭／劉靜怡
壹、前言：人工智慧時代即將來臨？／3
貳、人工智慧的產業、社會與倫理意涵／6
參、各國政府做了什麼事？／15
肆、法律人至少應該看到什麼？／18
伍、責任分配原則的挑戰／19
一、人工智慧與專業規範／19
二、責任分配與風險分攤：以自動駕駛為例／23
三、責任原則與醫療正義／26
四、人工智慧時代的正當法律程序／29
陸、市場競爭規範的挑戰／34
一、個人資訊自主權／35
二、市場公平競爭規範的未來／43
柒、結論／44
 
．人之苦難，機器恩典必看顧安慰—人工智慧、心靈與演算法社會／顏厥安
壹、闇黑有形：由墨闇碑（monolith）談起／50
貳、客體化的心靈？／51
參、心靈、決策與自我觀察：由MCTS談起／56
一、由AlphaGo系列到AlphaZero／56
二、蒙地卡羅樹搜尋／59
肆、悲觀論與演算法社會／62
一、機器倫理與AI的發展潛力／62
二、對AI發展前景的三種態度／64
伍、幾個思考／66
一、Asimov與A3法則／66
二、Dreyfus的四分法／68
三、內在觀點與自我觀察／71
四、AI可以擁有人格地位嗎？／75
五、超級智慧的圍堵？／77
陸、結語／83
 
．初探AI的民事責任—聚焦反思臺灣之實務見解／吳從周
壹、從AlphaGo戰勝棋王 vs. AI取代律師談起／89
一、兩則新聞報導：AI取代律師甚至法庭上斷案之法官！？／89
二、質疑的訊息／91
貳、AI可能產生的民事責任／94
一、建立AI之獨立人格權？／94
二、契約責任／97
三、侵權責任／100
參、臺灣法院實務案例／102
一、契約責任／102
二、侵權責任／110
肆、無情感的人工智慧？（代結論）／114
 
．初探刑事程序法的人工智慧應用—以犯罪熱區為例／李榮耕
壹、前言／120
貳、人工智慧概述／121
一、概念／122
二、人工智慧於公共安全及刑事程序上的使用／124
參、犯罪熱點或熱區及執法／127
一、犯罪熱區及強制處分的發動／127
二、人工智慧的預測及強制處分的實質理由／132
三、人工智慧的預測不得作為執法的唯一依據／135
四、偏見及歧視的危險／137
五、犯罪熱區在應用上的限制／139
六、輸入資料的正確性／139
七、程序透明性的要求／141
八、事後的評估及監督／143
九、法院將面臨的挑戰／146
肆、結論／147
 
．初探人工智慧中的個資保護發展趨勢與潛在的反歧視難題／邱文聰
壹、緒論／153
貳、個人資料在人工智慧中的用途／155
參、個資依賴型人工智慧的倫理與法律挑戰／159
肆、因應人工智慧的個資保護與反歧視的比較法與學說發展及其限制／168
伍、結論／175
 
．人工智慧科技與智慧財產權法制的交會與調和—以著作權法與專利法之權利歸屬為中心／沈宗倫
壹、前言／181
貳、人工智慧科技發展與智慧財產權之新興課題／183
一、人工智慧科技之形成與智慧財產權保護／185
二、人工智慧科技之應用與智慧財產保護／187
參、人工智慧對於著作權法之衝擊與因應／194
一、人工智慧形成之著作權保護／194
二、人工智慧應用成果與著作權之權利主體／196
肆、人工智慧對於專利法之衝擊與因應／202
一、人工智慧形成之專利權保護／202
二、人工智慧應用成果與專利權之權利主體／205
三、人工智慧與進步性之評價／210
四、人工智慧與先前技術／211
伍、結論／213
 
．與人工智慧相關的國際法議題—從國際人道法到生命體法／黃居正
壹、人工智慧與國際法之對應發展／219
貳、與人工智慧武器相關之國際法議題／220
一、人工智慧與武力不行使／220
二、使用人工智慧武器之限制／223
三、使用人工智慧武器方法之限制：科技中立原則與馬爾頓條款／230
四、國際人權法之平行適用／234
參、人工智慧與「生命體法」議題／236
 

編者序

　　人工智慧在資訊科學領域的再度興起，被認為是具有掀起第四波工業革命的潛力，並且可能因此劇烈改變人類的經濟、社會與文化生活模式。因此，在努力促成人工智慧在各個領域中的廣泛與深化應用之際，關於人工智慧發展過程中可能帶來的社會影響、倫理爭議和法律問題等，也是不該忽略的探討主題。進一步言之，由於從近年來的人工智慧的發展趨勢上，可以觀察到其在引發勞動市場、產業結構、社會平等、專業倫理等層面的變動之際所衍生的法律爭議勢將層出不窮，有待眾人合力釐清與克服，因此，科技部法律學門即在2017年9月25日在臺灣大學總圖書館地下一樓國際會議廳舉辦一整天的「人工智慧相關法律議題工作坊」，以眼前這波人工智慧浪潮發展至今所浮現的法律議題為主題，針對人工智慧對於法學理論和法律體系將帶來哪些影響，以及人工智慧在民刑事法律責任、個資保護、智慧財產權、行政管制、政府執法和跨國互動等法律層面，將會引發哪些潛在法律爭議，進行主題報告，希望藉此提供給人工智慧研究者和產業參與者關於法學觀點的思考與法律適用層面的建議，甚至可以嘗試為政府後續針對人工智慧領域所進行的政策規劃，提供出自法學觀點的建言與決策參考。

　　由於本工作坊可以說是國內法律學界第一次針對人工智慧相關法律議題舉辦的學術性活動，當天工作坊主題報告者與參與者之間的對話和討論頗為熱烈。基於以上尚稱良好的工作坊活動成果，以及自該工作坊中所感受到的知識累積必要性和法學長期研究需求，在活動結束後，本次工作坊的講者，乃共同決定當天的報告內容，進一步撰寫成學術論文，編纂成一本關於「人工智慧相關法律議題」的專書，也藉此為國內法學界建立關於人工智慧相關法律議題的初步研究基礎。

　　本書第一篇論文為「人工智慧潛在倫理與法律議題鳥瞰與初步分析——從責任分配到市場競爭」，主要是自鳥瞰的角度，從法律基本原則將如何受到人工智慧發展的影響進行分析，探討責任分配與市場競爭議題，這篇論文可以說是在扮演本書導論的角色。至於第二篇論文，則是進入如何由人工智慧反省法學理論的主題，作者顏厥安在名為「人之苦難，機器恩典必看顧安慰——人工智慧、心靈與演算法社會」的這篇論文中首先指出：人工智慧一語的創造者John McCarthy是一位電腦工程師以及數學家，曾說「不打算做算術就會流於胡言亂語」，而顏教授則認為，人工智慧自始就是一個哲學問題，因為，所謂數字、智慧與人工，都是富涵哲學意義的概念。作者進一步指出：人工智慧與法律，最早的關聯主要是在法律推理方面，此一關於法律推理的問題固然擁有持續的重要性，但是也有許多其他層面的問題陸續浮現，而本文則是從心靈哲學的觀點出發，嘗試探索人工智慧、心靈與演算法社會的議題。本文最終的結論是認為：法律責任的成立，一般認為預設了自由意志與因果關係的二元世界，不過，自20世紀以來的法學理論，卻越來越趨向於懷疑心靈的獨立存在，因此挑戰了自由意志的理論基礎，若此一方向正確，則人工智慧與「真正的智慧」—— 也就是心靈——之間的差異將日趨模糊，雖然這篇論文並非嘗試針對此一問題提供終局回答，但卻指出了人工智慧的挑戰，不僅在於機器的擬人化，也在於人性的機器化或自然化，是相當值得深思的理論探索。

　　本書第三篇論文由吳從周針對人工智慧所引發的民事責任議題進行分析與探討，這篇論文以契約法和侵權行為法為說明核心，不但引用既有的國內外相關判決作為分析背景，也進一步從人工智慧應用趨勢下可能使這些判決所展現的規範方向如何發展，提出預測，兼具學理和實務參考價值。接著，第四篇論文則進入AI與個資保護之間的分析，李榮耕以「初探刑事程序法的人工智慧應用——以犯罪熱區為例」為題，分析人工智慧在執法層面上例如犯罪活動的預測及預測性警察勤務上的應用。這篇論文指出：人工智慧之所以能夠發揮上述功能，是透過歸納、分析及處理大量過往的案件資料，用以預測將來可能發生的事件，而犯罪熱區的劃定，便是典型的人工智慧的應用方式。但是，上述分析結果，在具體的應用上，應認為犯罪熱區只能夠作為合理懷疑或相當理由的證據之一，不能作為唯一的依據，亦即犯罪熱區的劃定，本身即帶有偏見及歧視危險，而且，用以訓練人工智慧的資料不完整或不正確，也會影響到犯罪熱區的正確性。作者主張，一旦在刑事程序中使用人工智慧，就應該特別注意被告或犯罪嫌疑人的程序權利，而我們則應該以更有效的方式，檢視政府所使用的人工智慧技術，以便有效保護人民的基本權利。而國家所使用的人工智慧，則應有外部獨立的檢視及評估，至於法院處理相關挑戰時，也必須逐漸形成審查使用人工智慧的程序及要件的標準。

　　本書第五篇論文，是邱文聰以「初探人工智慧中的個資保護發展趨勢與潛在的反歧視難題」為主題，指出人工智慧在實際社會應用上的挑戰，主要來自於兩個面向：一是人類對人工智能主體的智慧學習，可有多大的決定能力；二是對人工智能主體在智慧應用上的結果，可有多少的控制能力。這篇論文認為：在智慧學習上，人工智能主體的設計者無不希望儘量透過充分的「訓練資料」，使人工智能主體得以「心領神會」人類在特定工作上的思考與決策模式，以便能模仿人類之行為，但也可能因此在無意中承襲了人類既有的偏見。至於在智慧應用方面，人工智能主體不一定都會按照設計者的想定與期待，作出決定或行動，有時甚至可能出現非預期或難以為社會接受之結果，卻遠超出原始設計者的理解能力之外，例如人工智慧判決系統在作出與真人法官一樣的判決時，也可能延續原來存在於司法系統中的偏見或錯誤，亦即複製偏見。本論文同時指出：在人工智慧結合大規模資料蒐集與巨量資料分析的資料探勘技術之後，若應用於各種社會資源分配決策上，那麼人工智慧便會成為一種最新的社會差異的排序（social sorting）工具。本論文特別指出：就當前法制因應策略而言，多從個人資料的蒐集規範，控制智慧學習的範圍與深度，所以，在面對上述智慧應用時，則恐怕難以僅透過個人資料的利用規範有效回應歧視問題。

　　本書第六篇論文，由沈宗倫針對AI與智慧財產權的調適問題，進行分析。沈宗倫以「人工智慧科技與智慧財產權法制的交會與調和——以著作權法與專利法之權利歸屬為中心」為題，說明在智慧財產法藉由專屬權或排他權之授予，促進國家文化或產業的創新發展，亦同時兼顧市場的公平競爭的立法宗旨下，人工智慧科技朝向自主學習與自行決策方向發展的趨勢，對於智慧財產法所帶來的衝擊，最可能聚焦在權利歸屬的爭議上。而這篇報告則是針對此一潛在問題，分析人工智慧就其創作或研發成果，在著作權法與專利法上的權利歸屬問題，並嘗試提出最適的解決模式，以緩解人工智慧科技對智慧財產法制的衝擊，並使智慧財產法制在面對人工智慧科技進展時，得以適度的因應與調適。

　　接著，本書第七篇論文，由黃居正以「與人工智慧相關的國際法議題——從國際人道法到生命體法」為題，分析與人工智慧相關的國際法議題。黃教授指出：國際法因為受限於性質與規範力來源，法的確信與遵行機制之形成與發展比較緩慢，並且向來呈現團塊化現象，不過，在與人工智慧相關的規範方面，則非如此，而是發展異常迅速而且已取得一般性。黃教授根據其主題報告內容所撰寫的論文，以當前逐漸成形、與人工智慧相關之國際法原則為討論內容，主要分析則涵蓋與人工智慧武器相關之國際法議題，以及生命體法如何應對人工智慧新主體兩大面向。前者探討對象包括人工智慧武器在國際人道法規範下之定義、人工智慧武器所涉及之人性本質論題、國際人道法對人工智慧武器之種類與使用方法之規範、如何結合科技中立原則與馬爾頓條款強行適用國際人道法規範人工智慧武器、以及有意義的人類控制原則。後者的分析，則是聚焦在適用於有別於傳統人格體或其所能控制之「新主體」的規範內容與其性質，即通常所謂之「生命體法」或「超世俗規範」議題。包括如何自既有的國際太空法原則抽繹出「生命體法」的核心價值，譬如全體人類必須共同決定其立場的規範一般性，以及藉由國際公有物規範，解釋對於有異於地球人之生命體的積極管轄原則與型態。上述分析，對於向來對國際規範較為陌生的國內學界與產業界而言，應該可以提供相當的刺激與參考作用。

　　由於AI的應用方式和應用領域近來不斷地增加，幾乎可以預見其將對人類社會的各個層面都帶來大小不一的衝擊，因而也可能帶來更多潛在的社會、倫理與法律爭議。以法學界為例，美、加近年來有許多屬於中生代和新生代的優秀法學院教授，均陸續投入關於人工智慧相關法律議題的研究。此一研究領域不但具有學術上的價值，對於社會發展和政府決策來說，也應該是面對人工智慧所帶來的各種挑戰時，不可或缺的一環。因此，希望本書之出版，能夠在人工智慧發展可能衍生的倫理法律社會影響（Ethical, Legal and Social Impacts, ELSI）及其相關對策的研究上，盡一份棉薄之力。