算法時代的企業數據合規

推薦序／陳聰富
自 序
作者簡介

前 言／ 1

第一章 算法時代的數字經濟概覽
第一節 數字社會的發展進程／ 3
第二節 數字經濟中的企業數據／ 7
第三節 企業數據合規面臨的挑戰／11

第二章 人工智能算法的技術特徵
第一節 人工智能算法概述／15
第二節 算法的黑箱性／17
第三節 算法的自主性／19
第四節 算法的難以問責性／21

第三章 算法應用的主要場景
第一節 場景的概念／23
第二節 場景界分方式／25
第三節 企業數據合規的場景邏輯／26

第四章 電子商務場景中的營銷數據
第一節 大數據殺熟的算法／31
第二節 用戶個人數據畫像／33
第三節 算法定價與歧視／34

第五章 新聞推薦場景中的推送數據
第一節 無形的資訊繭房／43
第二節 新聞的個性化定制／46
第三節 社會的單向度與多樣性／50

第六章 自動駕駛場景中的機器決策數據
第一節 自動駕駛的分級標準／53
第二節 電車難題及其破解／55
第三節 機器決策的追責／56

第七章 社會信用體系建設中的算法評分
第一節 社會信用主體評價、評級、評估／61
第二節 信用評分中的算法公正／63
第三節 算法評分權力與算法解釋權／66
第四節 提升信用監管和信用服務水平／71

第八章 智慧司法場景中的算法正義
第一節 司法決策的算法化發展／75
第二節 司法能被算法取代嗎／78
第三節 司法決策算法的功能定位與設計理路／84
第四節 數據和算法十大典型案例／88

第九章 根據場景建構數據合規的差序格局
第一節 中國規制算法的模式與不足／119
第二節 域外規制算法的經驗及局限／128
第三節 場景理論中的算法治理／133
第四節 依據場景中的算法風險等級確定差序化規制手段／140

第十章 算法透明：企業數據合規基礎
第一節 算法透明的概念／149
第二節 算法透明的限度／150
第三節 算法透明的制度基礎／153
第四節 算法透明的實現方式／154
第五節 算法問責：算法透明的制度導向／158

第十一章 數字經濟中的數據安全
第一節 算法應用對數據保護的困境／161
第二節 嚴格告知同意程序／166
第三節 政府、平台和社會三方協同治理／174

第十二章 算法時代的數據向善
第一節 人類生存狀態的數字化轉型／181
第二節 數字化生存中的算法應用及風險／185
第三節 數字向善對算法規制的指導價值／191
第四節 數字向善的價值追求／195
第五節 數據合規：數據向善的實現路徑／201

附 錄
附錄1 國務院關於加強數字政府建設的指導意見／205
附錄2 關於加強互聯網信息服務算法綜合治理的指導意見／220
附錄3 互聯網信息服務算法推薦管理規定／225
附錄4 互聯網信息服務深度合成管理規定／233
附錄5 關於構建數據基礎制度更好發揮數據要素作用的意見／240
附錄6 關於規範和加強人工智能司法應用的意見／250
附錄7 新時代的中國網絡法治建設（白皮書）／255

自序

　　當今世界，生命科技飛速發展，人工智能方興未艾。它們已經深刻地影響著我們的生活，網絡技術深刻地改變了人們的交往方式，拉近了人與人的距離；影像技術的發展改變了人們的學習與記憶方式，擴大人們的資訊量；機器人的出現，擴充了人類的存在方式，衝擊了人的主體性地位。人工智能憑藉高效的計算能力和海量的數據正在變得愈發智能，自動駕駛汽車可以在道路上行駛，語音助手能夠識別用戶的聲音指令，網絡瀏覽器可以在數十種語言之間進行翻譯。然而，科學技術可謂是一把雙刃劍。人工智能對於人類社會來說喜憂參半。它們雖然給人們的生產生活帶來相當的便利，極大地解放了人，但同時也給人類社會帶來了一定的風險和難題。比如，網絡技術在給人們提供便利的同時，也會衍生出大量的侵權和犯罪。如果高智能機器人完全代替人來工作，是否應該賦予它與人一樣的主體地位？當它作為侵權人或受害者參與到與人的交往之中時，將如何處理，這些問題均需要法律給予必要的應對。或許很多技術剛剛應用，相關的問題僅僅是初露端倪甚至只是一種潛在的風險，但這並不能降低我們對這些問題進行研討的必要性。

　　當前，算法正在數字社會建設中發揮著重要作用，而加強數字社會建設是引領驅動數字經濟發展、營造良好數字生態、加快數字化發展的必然要求。筆者的這本著作聚焦算法技術的應用場景及其合規運行具有突出的理論價值和極強的現實意義。法律不應僅具有救濟功能，它還應該具有預防功能。將來的社會既是一個技術社會，同時也是一個法治社會，技術風險問題只能透過法律的途徑來解決。因此，當下法律學者必須擔當起這樣的使命。

　　算法以其迷人的魅力讓無數人為之傾倒，也為之惶恐。支持者狂熱地追逐之，反對者冷靜地批判之。在本書的框架當中，主要分為三大部分，其一是對算法及應用作整體性把握，介紹在數字社會建設的大背景下，算法為什麼是重要的驅動力。第二部分聚焦具體場景當中的算法應用，場景理論目前在資訊流通與保護領域逐漸占據主流，在電子商務、新聞推薦、自動駕駛、社會信用評分、智慧教育以及智慧司法等場景當中，算法如同大腦一般在支撐著新興技術的運行。又由於廣泛分布在不同場景當中的算法會帶來不同類型的風險，有必要根據場景理論對算法風險進行界分。這就引出了第三部分的主要內容，即融合公法與私法共同施加對算法的規制，使其在合規正確的路徑中不斷突破，提高社會生產力，更好造福人類。

筆者深知，寫作的本質是交流而非是獨白。因此，直擊問題本身能夠更好地提高交流效率。在最初，筆者對大數據時代被遺忘權的關注成為算法研究的啟蒙。正是由於搜索引擎的不斷發展，呈現出的檢索結果排序是否經過人為加工和修飾，構成了數字科技研究領域的真問題。對於被遺忘權國內外學者從哲學、傳播學和法學等不同視角出發，對該問題進行了深入而廣泛的探討，而伴隨被遺忘權的發展所帶來的數據畫像、算法歧視、算法不透明性等問題都需要深入研究，並由此才發現了算法應用相關問題研究的廣闊空間。
　　新興技術的顛覆性變革和數字社會的轉型升級，共同促使現代法治向數字法治的發展。在全世界範圍內，各國均對算法的應用進行著積極探索。2018年，歐盟通過《人工智能戰略》，將人工智能上升到國家戰略層面，以明晰面向未來的數字化變革理念與行動。2019年，美國國會成立了人工智能國家安全委員會，體現出美國人工智能的工作重點在於研發投資、國家安全應用、培養和招募人才、保護和建設美國的技術優勢、促進全球合作。2020年，美國《人工智能未來法（草案）》亦明確提及人工智能對確保美國全球競爭力的重要意義。

　　近年來，中國的數字經濟發展十分迅速，與歐盟和美國的差距逐漸縮小，在5G建設、共享經濟等領域還形成了自己的優勢和特色。與此相對應的是，中國在互聯網、大數據、人工智能、區塊鏈、算法治理等方面的立法不斷加快，本書的附錄部分列舉了近期國家出台的與算法應用密切相關的綱領性文件。當前，中國的數字法治建設路徑與模式，體現著國家／社會／個人的「包容治理」精神，進而與歐盟GDPR呈現出的「權利保護」模式及美國相關立法體現的「公平保護」模式明顯不同。在中國式現代化的發展過程當中，算法能夠也必將發揮著重要作用。當然，這一切的前提都是在合規有序的規定上健康發展。

　　灼灼桃花知深淺，人生進退又宏圖。承蒙各位老師抬愛，能夠有機會進入數據合規領域與學界同仁共同交流。