AI世代生存哲學大思考：人人都必須了解的「新AI學」

第6章　賽伯格經濟的時代

「機械化經濟」大約於二○三○年落幕

本章要探討在即將轉變為AI與人共存、協作的時代中，我們的經濟活動會有怎樣的變化？突然聽到經濟活動這話題，各位或許會覺得有些突兀。不過基於以下理由，的確也有必要以經濟活動為主題好好討論一番。

如同庫茲威爾所說，泛用型AI屬於非生物智能，也就是說它並不是生物的智能。然而人類身為生物，在經濟活動中，會如實反映部分基本的生命活動，因此我們有必要去研究這種轉變將為人類經濟活動帶來怎樣的變化。

關於泛用型AI與非生物性的內容，各位會在下一章讀到。本章我們將研究過渡期間，也就是特化型AI的時代。

在特化型AI的時代，人與機器開始互相協助與合作。人與機器的協作，最終將以人與機器結合，也就是以賽伯格的模式進行。相關具體情形，各位不妨回想一下第4章最後介紹的賽伯格鼠。

賽伯格是人與機器結合，所以是生物與非生物的混合。在生物層面，會繼續進行傳統的經濟活動。但是在人與機器結合的層面，則會展開新型態的經濟活動。在賽伯格時代，傳統與新型態的經濟活動會混合存在，我稱之為「賽伯格經濟」。本章的目的就是勾勒賽伯格經濟的輪廓，並且探討從目前的經濟型態發展成賽伯格經濟的必然性。

我們先從AI的面向來追溯經濟變遷的情形。這過程可分為兩階段：（1）AI出現以前的經濟過渡到特化型AI時代經濟的過程，與（2）特化型AI時代的經濟過渡到泛用型AI時代經濟的過程。

有關這方面的論述，駒澤大學經濟學院講師井上智洋的著作《人工智慧與經濟的未來》（人工知能との，文春新書，二○一六年），非常值得參考。

井上在該書中將現代到大約二○三○年的這段期間劃分為「特化型AI時代」，再往後則劃分為「泛用型AI時代」（即AGI時代），並且預測各時代的經濟樣貌。從第一次產業革命到現代，再到大約二○三○年為止的這段期間，井上稱之為「機械化經濟」。換句話說，從二○三○年起，泛用型AI開始活躍以後，經濟將再次迎接重大轉型。

就井上的定義，「機械化經濟」是人與機器協作以從事生產活動。如同大家所熟知的歷史，第一次產業革命時，蒸汽機被導入產業界，促使英國紡織工業突飛猛進。之後，電腦被導入產業，進入現代的資訊革命時代，這期間，機器以補充人力不足的形式支援人們。簡單地說就是：機器扮演了有用工具的角色而占有一席之地。而且，將機器當工具用的情況還會持續到特化型AI的時代。

第2章討論過特化型AI與人類協作的情形，這舞台的終極劇碼就是賽伯格。換句話說，在機械化時代，到了特化型AI時代的最終章時，賽伯格極有可能在經濟活動中扮演領航角色。

AI會搶走人的工作嗎？

在機械化經濟的最終章，特化型AI登場了，因此現在備受討論的議題便是「工作會不會被機器搶走呢？」

這個問題在世界各地掀起熱烈議論，日本也不例外。例如，搭載AI的自動車會危及計程車或公車司機職業續存的可能性，這點的確不容否認。

但是話又說回來，與泛用型AI相比，特化型AI一時間也還取代不了所有人，因此井上在《人工智慧與經濟的未來》中指出，失業會是「一時性且局部性問題，到一個程度就會停歇住」。怎麼說呢？因為在那種情況下，人們會轉行到「人比較占優勢的其他行業」，例如「護理師或推拿師」等，或是其他可做為轉行跳板的行業。

雖然創新科技的特化型AI提高了生產效率，卻也造成傳統產業勞動者失業，不過據說特化型AI所帶來的變化其實沒大到那個程度。

就像以前鐵路出現時，確實淘汰了馬車拉伕及人力車等行業，但同時也催生了火車司機這門新行業。據說，特化型AI的影響應該也差不多。

不過，以上是樂觀派的言論。悲觀派則預測美國國內有半數工作將面臨危機。二○一六年十二月二十日，美國政府針對AI對經濟、社會的影響發表了報告。這份報告由歐巴馬政府的經濟顧問彙整，內容併有悲觀論與樂觀論。以下這段內容引自《WIRED》雜誌對於該報告的報導〈百分之四十七的工作將被AI取代，差距還在擴大中：美國政府報告書〉。

「在過去數十年間，電話接線生或辦公室的文書行政職務、旅行社職員、工廠組裝線作業員之類的職務因為自動作業系統而消失，現在則是計程車司機及優步司機一類的行業正岌岌可危。卡車運輸業或許將在十年以內升級成自動化設備（美國國內約有三百八十萬名運輸從業人員）。（……）速食業界也有部分商家開始實驗自動販售亭或自動點單系統。」

「在自動化設備普及率的預測方面，報告書引用了兩份不同的試算。在第一份試算中，經濟合作發展組織（OECD）的研究者抱持樂觀看法，預估幾項業務的自動化雖然會影響多數工作內容，但是不至於完全被消失。在未來的十到二十年之間，會面臨存亡危機的工作，差不多就百分之九而已。」

無論是樂觀論或悲觀論，未來是不容易預測的，但是肯定會產生劇變。而井上預測，未來的變化與過去的變化「在本質上相同，但是在質量上恐怕會對經濟造成巨大衝擊」。

「利用機器生產機器」無限循環

預言指出，泛用型AI時代將在二○三○年以後到來，井上稱那時代的經濟為「純機械化經濟」。機械化經濟之後是純機械化經濟，這意味著：不再需要人類。

在純機械化經濟時代，機器將獲得自主能力，並完全取代人類。因為機器將不再是工具，而會變成「主體」。

我們來看看純機械化經濟中的汽車工廠吧。工廠裡看不到人，因為機器取代了人，變成完全自動化的無人工廠。

井上說：「假如單憑機器就能自動生產汽車，那麼汽車的產量將會隨著機台增加而大幅增加……生產效率要多高就有多高。」也就是說「利用機器生產機器」的無限循環，生產規模要擴大到多大就能有多大。最後，假如機器有自主能力，能夠自我改良，就能變成無限擴大的自我生產製程。

純機械化經濟能夠擴大由機器催生更優良機器的連鎖反應。根據井上的計算，擴大的連鎖反應會如同指數函數般急遽增長，而庫茲威爾也曾指出，科技發展的進度會如同指數函數增長般突飛猛進，因此，純機械化經濟成長與科技發展的軌跡可說是一致的。

在泛用型AI所帶來的純機械化經濟時代中，機械能自主運轉，而且能夠完全取代人。一旦擁有自主能力的AI登場，人極有可能不需要工作。

可是問題來了，人們能因此過著清閒的日子嗎？的確有人這麼預測。或者人會一面見證機器的繁榮，一面退化呢？假如答案是前者，情況或許還不錯（其實並不好，詳情請容我稍後再述），不過我們理當事先將後者的風險納入考量。

假如答案是後者，那麼問題的核心究竟是什麼呢？

泛用型AI誕生後所產生的情況是，人們利用源自機器學習的AI自我超越。而泛用型AI是機器的擴大自我生產，不需要生物性要素。

因此，生物屬性的人會在泛用型AI時代走向落幕，又或者說是人的生物性，以及奠基於生物性的資本主義不得不落幕或改頭換面。

假如要因應純機械化經濟，人或許必須捨棄自己的生物性。人，還有賽伯格，或許必須變身成後人類。相關內容將在第7章再討論。

對照需求曲線與供給曲線，觀察AI經濟

我們先利用圖表簡單歸納整理機械化經濟過渡到純機械化經濟期間的議題。請參考圖[5]。

眾所周知，思考經濟活動必須了解需求曲線與供給曲線的關聯。要讓需求或供給增加，只要將它們各自的曲線往右移就行了。無論是特化型AI或泛用型AI，主要都在挹注供給端的效率。

那些AI所帶來的生產效能提升，便能使供給曲線向右移。只要向右移的停留在特化型AI，基本上還是依照以往，也就是純機械化經濟以前的資本主義經濟理論。

身為需求者的人類，只要配合向右移的供給曲線，也將需求曲線向右移，就能維持兩曲線平衡。

此外，泛用型AI經濟的生產效能提升也會促使供給曲線向右移，而且是以指數函數成長般的速度躍進。這麼一來就有可能變成「需求不足」（井上）或唯有需求曲線停滯的現象。

所謂需求，說白了就是人們想要的東西，也就是人的慾望。而需求曲線停滯所代表的意義，正是人們從純機械經濟時代的經濟活動中退場。

若不希望情況演變至此，人們必須讓需求曲線隨著供給曲線向右移。也就是必須讓自然狀態的人類慾望，與泛用型AI所帶來的供給曲線同步急遽成長。

但若要使兩者同步，就必須藉由泛用型AI將供給曲線技術化。也就是說，賽伯格化以及後人類化是不可或缺的。

第6章　賽伯格經濟的時代

「機械化經濟」大約於二○三○年落幕

本章要探討在即將轉變為AI與人共存、協作的時代中，我們的經濟活動會有怎樣的變化？突然聽到經濟活動這話題，各位或許會覺得有些突兀。不過基於以下理由，的確也有必要以經濟活動為主題好好討論一番。

如同庫茲威爾所說，泛用型AI屬於非生物智能，也就是說它並不是生物的智能。然而人類身為生物，在經濟活動中，會如實反映部分基本的生命活動，因此我們有必要去研究這種轉變將為人類經濟活動帶來怎樣的變化。

關於泛用型AI與非生物性的內容，各位會在下一章讀到。本章我們...

我在早稻田大學開設有關「科技的哲學」的課程，這門課從開課到現在大約已經有十年。自己說自己有點老王賣瓜的嫌疑，不過說真的，我的這門課程還蠻受學生歡迎的。原因可能是我把拍成動畫的漫畫《攻殼機動隊》及人氣電視動畫影集《新世紀福音戰士》等也都納入教材，和學生們一起思考「人工智慧」（Artificial Intelligence，AI）和「賽伯格」（cyborg）的關係吧。

二○一五年、二○一六年，日本媒體對於AI的相關報導尤其多。各位之中應該有許多人聽說AI與人類職業圍棋選手對弈，還贏得壓倒性勝利的新聞吧。稍早以前還有另一則新聞，是美國谷歌（Google）公司的AI在未經人類教導下挑選出貓的圖片，很厲害吧？這些時事新聞引發了人們的危機意識，大家開始擔心自己的工作會不會被AI搶走？英國學界於是展開調查研究，日本新聞界也大量播報相關新聞與專題報導。在這種氛圍下，我在大學開設的AI相關課程自然引來許多學生的高度關心。

我觀察學生們上課時的反應發現，文科學生似乎只要內容範圍不出現數學（！）都好說；理科學生則是非常關心技術領域的事。但無論是文科生或理科生都有一個共通的反應：「什麼嘛，哲學老師教AI和賽伯格做什麼呢？」

AI和賽伯格很明顯都屬於理科的話題，一般人也認為文科學生不需要接觸這些。但是我必須說：這麼想可就大錯特錯啦！即使沒錯，也過於先入為主。這話怎麼說呢？理由是，既然AI和賽伯格即將在「近期的未來」成為現實，當然要趁現在多多加強相關的哲學探討呀！

所謂哲學，單以一句話來形容，就是思考「人是什麼？」等題目，總而言之是一門「思考的學問」。說得稍微深入些，就是總括科學等學問，以作出綜合判斷的學問。

既然如此，我們應該怎麼看待已經進步到可以代替人類思考的AI，以及即將因人類與機器或AI合體而誕生的賽伯格呢？我們不得不思考它們和人類究竟有什麼區別？

我們現在正面臨到的問題是Google的工程總監雷．庫茲威爾（Ray Kurzweil）所提出的「Technological Singularity」，即「科技奇點」。科技奇點也被稱為「二○四五年的問題」，據說到了那個時間點，電腦將擁有超越全人類的智慧。若真是如此，今後我們應該思考的將不是人工智慧的本身。既然人工智慧將超越人類，賽伯格也必然會登場，這時再不思考前述的問題：「人類是什麼？」恐怕會產生出大問題。

就現在的時間點而言，人工智慧尚不包含倫理觀念及哲學，也無關乎善惡。

舉例來說，開發搭載AI的自動駕駛汽車的最主要問題不是科技，而是軟體開發。製作軟體程式時，研發人員的煩惱是：軟體程式該怎麼寫？

進一步舉例來說，貓突然衝到路上時，自駕車該怎麼反應？當人突然衝到路上又該怎麼反應？遇到貓就繼續行駛；遇到人就緊急煞車嗎？

假如不先想好「和人的性命比起來，貓的性命有多重要？」這問題，程式就寫不下去了。這問題並非科技問題，而是層次極高的哲學問題。這意味著，假如不先釐清「人是什麼？」、「人和貓有什麼差別？」、「人的性命和貓的性命有什麼差別？」等問題，AI就會不知道該怎麼反應。

因此，這本書嘗試以哲學的觀點來思考當今急速發展中的先端科技：AI以及未來科技：賽伯格。近年來，AI已經跨出科技領域，成為一般話題。現在，AI幾乎天天出現在新聞、雜誌及網路上，說它已無所不在也不為過。

「AI會不會搶走人類的工作？」、「AI會不會超越人類？」每天都有各式各樣報導繞著這些話題打轉。人類今後究竟該如何迎戰AI？

總之我想以這類話題為中心寫作本書。

說到這邊，請容我稍作自我介紹。我是念德國文學出身的，當初的研究主題是尼采。也就是說，我的研究生活是從研究德國思想開始。我在獲得大學教職時，一些因緣際會讓我讀到一本書──《媒體人：溝通革命的結構》（メディア人間──コミュニケション革命の構造，中野收著，勁草書房，一九九七年）一書，時間點大約是一九九○年代中期。

《媒體人》一書嘗試以社會學的角度，分析近代年輕世代以新力（SONY）隨身聽（令人懷念啊！）等電子機器武裝自己的現象。

那正是電視動畫《新世紀福音戰士》風靡社會的時代。不知道是不是這個緣故，我讀這本書時，腦中時常浮現主角真嗣總是藉由隨身聽保護自己、遠離外界的畫面，而我也直覺認為年輕人的確是這副模樣。

一想到這裡我又接著想到，這樣的電子世代和過去世代過的生活截然不同。例如，電子世代可能會不斷把最先端科技帶在身上使用，片刻不離。

「這麼一來，人類會變成什麼模樣呢？」我的思緒開始圍繞著諸如此類的問題打轉。

也就是從那個時候開始，我萌生了一個念頭：不妨來分析一身科技裝置模樣的未來人類吧。

就在我滿腦子想著這些事情的時候，二○○三年，在東京，將自己定位為賽伯格原型的英國雷丁大學（University of Reading）教授凱文‧瓦維克（Kevin Warwick）做了一個實驗，將自己化身為賽伯格，而我有幸獲得觀摩的機會。

那時，瓦維克教授實驗將自己手臂的神經和電腦相連。我親眼目睹了那場實驗，所以確信：未來的數位人類就是那模樣！

這些因緣際會促使我開始研究人工智慧與賽伯格。不過也可以反過來這麼說，透過未來圖像反觀現在，或許可以知道當今人類發生了什麼事情。

我在課堂上對年輕世代講授賽伯格、生物科技、機器人、AI與人類關係的方式，其實是一面藉由科學或工學提示學生，科技實際上有可能發展到什麼程度，一面讓學生觀賞以科技為主題的影像資料（例如漫畫、動畫、電影、藝術創作等），從科技話題轉入哲學議題。

我的教材取材廣泛，除了《攻殼機動隊》（士郎正宗的原作漫畫版、押井守的動漫劇場版、神山健治的動漫電視影集版），還有《雲端情人》（Her）《全面進化》（Transcendence）《成人世界》（Chappie）等電影，一直到以生物科技為主題的藝術創作都有。

期末時，我會請學生繳交期末報告。學生的意見大略分成以下三類。

1.應該絕對禁止開發賽伯格或AI。

2.科技的進步無法避免，但也無法全面予以肯定。

3.贊成開發科技，而且應該促進科技發展。

我自己的立場是3。當然，前提是必須謹慎注意，而且絕對要顧慮安全性。

那麼，立場是1和2的學生為什麼會對科技的進步持否定態度呢？

經過彙整，他們的想法是以不加人工之手，維持原始自然狀態作為前提。

我曾經稍微支援過生態團體，也聽聞過生態主義者中也存在自然應由人類加以管理與保護的看法。

當然，有些派別並不認同這種生態管理思想。但是，比較史前人類生活的自然與現代都市，也就是已遭人類改變的自然環境，兩者的狀態截然不同，這一點無須爭論。自然環境本身也不斷在改變容貌。

人類也一樣。史前人類與現代人類大大不同。所以說，這世界已經沒有任何一個地方還存在原始自然樣貌的人類了。然而不是這樣的，我們應該將人類與周圍環境間的關係，以及這關係如何轉變作為主題加以討論。

而探討AI與賽伯格科技的哲學問題，正是在思考這種關係與其轉變。

順帶一提，我的孩子現年十五歲，喜愛程式設計及電子作業到無法自拔，他的電腦知識當然遠在我之上。另外，最近興起一股從小學開始學程式設計的風潮，也有講座傳授高中生AI啟蒙知識。最近的世代被稱為數位原住民（Digital native），就像我的時代是一出生就有電視機，覺得電視機很普通一樣，對他們而言，電子環境所營造的環境，是理所當然的環境。即使不寫程式，他們也理所當然地使用著LINE、推特、IG（Instagram）等各式各樣社群網路。

這世代無止盡地使用電子機器，不可或缺。那麼，未來究竟有什麼等著他們去承擔呢？或許一時之間你對於這些問題還感到茫然，但沒關係，只要你願意一邊想像，一邊閱讀本書就好。

我在早稻田大學開設有關「科技的哲學」的課程，這門課從開課到現在大約已經有十年。自己說自己有點老王賣瓜的嫌疑，不過說真的，我的這門課程還蠻受學生歡迎的。原因可能是我把拍成動畫的漫畫《攻殼機動隊》及人氣電視動畫影集《新世紀福音戰士》等也都納入教材，和學生們一起思考「人工智慧」（Artificial Intelligence，AI）和「賽伯格」（cyborg）的關係吧。

二○一五年、二○一六年，日本媒體對於AI的相關報導尤其多。各位之中應該有許多人聽說AI與人類職業圍棋選手對弈，還贏得壓倒性勝利的新聞吧。稍早以前還有另一則新聞，是美國谷...

序
第1章　和AI的共同生活已經開始
自己選不如請AI幫忙「配對」
少了「智慧型手機」就活不下去
心理、物理層面都與機器直接連結
「沛博」揭開與機器人對話的時代
「物聯網」時代──把科技穿戴上身吧！
大數據徹底改變了生活
科技是怎麼進步的？
「深度學習」技術掀起第三波人工智慧熱潮
AI不用人教就能辨識貓
AI已獲得人腦般的複合機能
AI能進步到多接近人類的程度？
AI蘇菲亞：「我會毀滅人類！」
能說謊，也能戳破謊言的AI程式：狼人智慧程式

第2章　深度學習的廬山真面目
AI研究的兩大方向
製作簡略版的人腦模型
「尿布」與「啤酒」混搭
簡化人腦實際活動後再重現
AI與人腦的差異在於自主辨識能力
深度學習的關鍵：自動編碼
AI的自動學習不等於人類的自動學習
找出人類沒發現的特徵值
「DeepDream」的創作：「噩夢圖」
自己設計程式的AI
人性就是想要超越人類
AI的兩大類型：「知性AI」與「感性AI」
「感性AI」一樣有暴走的可能

第3章　若是AI超越了人類會怎麼樣？
只有頭腦不好嗎？為什要需要身體呢？
前科技奇點：和AI協作
從高級西洋棋學到的事
藉機器之力擴增能力
泛用型人工智慧與科技奇點
由機器自己發現問題、解決問題
超越人腦可塑性極限的AI
人真的能和泛用型人工智慧談戀愛嗎？
在前科技奇點階段就沒問題
AI將成為應該被疼愛且不可侵犯的存在
超AI是神嗎？

第4章　機器與人類結合的未來
為了追上AI，必須變身賽伯格
已經實現的賽伯格實例
賽伯格究竟是什麼呢？
《獵殺代理人》與「松子機器人」
將機器人的機能輸入自己身體
「人機一體」對戰的「超人運動」是什麼？
尖端科技支援身障運動
利用能力增強裝置來強化人類的能力
鑲嵌在眼球裡的賽伯格隱形眼鏡
動漫版《攻殼機動隊》結局的意義
腦機介面的發展動向
「腦對腦通訊」研發成功
老鼠因賽伯格化變聰明

第5章　用哲學看科技
「大腦可塑性」究竟是什麼？
大腦可塑性與AI的可塑性互相呼應
神經元與DNA
冀望超越人類的AI問世是「人性」
人是否控制得了科技？
在古希臘時代，「文字」是一種技術
將記憶交託人體外的裝置
文字的意涵凌駕作者的意念
希望藉由外在化技術促進能力向上擴增的慾望
速度帶來快感，卻也伴隨恐懼
人們渴求科技，且無限嚮往
德國哲學家班雅明的「複製論」
複製原作衍生的「連鎖變形」
「人被機械裝置代理了」
原作是內含解釋可能性的混合體
被拍攝者與攝影鏡頭開始結合

第6章　格經濟的時代
「機械化經濟」大約至二○三○年落幕
AI會搶走人的工作嗎？
「利用機器生產機器」無限循環
對照需求曲線與供給曲線，觀察AI經濟
「賽伯格經濟」登場
賽伯格經濟（1）故事篇
賽伯格經濟（2）理論篇
人類恐怕喪失提升可塑性的慾望
作為生物的基本需求已大致獲得滿足
因慾望展現而存在的資本主義的極限
若資本主義的推手變成機器，我們該怎麼因應？
古希臘也曾面臨「喪失可塑性的危機」
油門與煞車互相牽制
經濟被科技收編

第7章　關於後人類的思考
以泛用型AI為模型變身賽伯格
「意識上傳」的可能性
已成功的兩項上傳實驗
保住可塑性，卻保不住個性
後人類是「拋棄個體的集合體」
變成後人類會「幸福」嗎？
仰賴電子式操作提升幸福
從生物變身成非生物是「快樂＝幸福」的事
我們不得不變身為「擬人」

後記
參考文獻

序
第1章　和AI的共同生活已經開始
自己選不如請AI幫忙「配對」
少了「智慧型手機」就活不下去
心理、物理層面都與機器直接連結
「沛博」揭開與機器人對話的時代
「物聯網」時代──把科技穿戴上身吧！
大數據徹底改變了生活
科技是怎麼進步的？
「深度學習」技術掀起第三波人工智慧熱潮
AI不用人教就能辨識貓
AI已獲得人腦般的複合機能
AI能進步到多接近人類的程度？
AI蘇菲亞：「我會毀滅人類！」
能說謊，也能戳破謊言的AI程式：狼人智慧程式

第2章　深度學習的廬山真面目
AI研究的兩大方向
製作簡略版的人腦模型
...