推薦序1
令人大開眼界的心智操控術
黃從仁/臺大心理系暨研究所副教授
根據2020年初的統計資料,臺灣有近八成五的上網人口,這其中約有九成是臉書(Facebook)的使用者。我們打開臉書,除了好奇地瀏覽舊識與新交的近況,也不忘抒發心情並記錄下自己的生活點滴與這些朋友們分享。較不在乎個人隱私的使用者,除了在個人的介紹頁面中如實地填入如性別、年紀、居住地等基本資料外,也無所顧忌地留下如宗教信仰、政治立場與戀愛性向等進階資訊。相反地,較在意維護個人隱私的使用者,時常在臉書的使用上遵循著四不一沒有的原則:非必要不填個人資料、不主動張貼留言、不分享影音照片、不與他人有過多互動,於是逐漸沒有朋友⋯⋯
「我po這些東西本來就是要給朋友看的啊!」,您義正詞嚴。問題是:有些內容您的朋友不想看(例如一早刷牙流血的照片),且能看到的不一定是您的朋友(例如您在臉書資料科學團隊工作的情敵)。本書作者克里斯多福.懷利,具有「劍橋分析」公司的多個頭銜──共同創辦人、前研究總監以及吹哨者。懷利在本書中用自傳式的口吻,娓娓道來他們的團隊如何利用早期臉書敞開的資安大門,大量搜刮臉書上數億名使用者的資訊,並進一步地將這些臉書與其他資料來源做串接。他們能夠恣意地去檢視素昧平生的臉書使用者房子的衛星照片、家人照片以及各種癖好,您與我可能都是他們所輕蔑嘲笑的那個怪胎。
「那又怎麼樣?」,您一臉不屑。《東周列國志》中,文種曾對越王勾踐獻策:「今王志在報吳,必先投其所好,然後得制其命」。歷史的教訓是:個人的特質、價值、偏好或心中最深層的恐懼一旦被精準掌握,輕則個人被利用,重則導致國破家亡。
懷利在本書中列舉了許多這種掌控人心、操弄各國選舉的範例。不若過去的政治宣傳活動只依照性別、年紀、居住地等人口學資料來分類選民,劍橋分析透過臉書上的動態消息、追蹤、按讚、分享等數位足跡(digital footprints)來對臉書的使用者做心理剖繪(psychological profiling),讓政治宣傳能夠見人說人話,見鬼說鬼話,人鬼盡歡。
「就像是谷歌(Google)與亞馬遜(Amazon)所做的個人化廣告推薦那樣嗎?」,您好奇。不,沒那麼簡單!他們會在臉書鎖定欲操弄的對象(如其客戶欲殲滅的對手陣營或文化團體)來創建粉絲專頁,在吸引心理特質與政治、文化理念相似的使用者後,首先於粉專中測試怎樣的話術或假消息最能夠煽動這個同溫層,之後再把有效的謠言透過暗樁在線上或線下的相關團體中做大規模的傳播,達到心戰目的。這裡的對手陣營可以像是政治組織或公司行號,文化團體可以像是女性主義或是特定宗教等各種社團。
作者聲稱2013年才建立的「劍橋分析」公司,便是透過上述的精準投放(microtargeting)來影響2016年的英國脫歐公投,以及當年的美國總統大選等世界重大歷史事件。和實驗室的心理學實驗不同,這些真實生活中的心智操控,除了「受控者」並非在知情同意(informed consent)的情況下被操弄,也無徹底不受假新聞汙染的「控制組」可供比較。因此,雖然書中所提的選舉結果對「劍橋分析」來說可謂是稱心如意,但科學上不能推斷這些操弄是否真有效果或是有多少效果。換句話說,書中所提的選舉結果,有可能真是「劍橋分析」的豐功偉業,也有可能僅是歷史上的因緣巧合。不過即便是後者,本書所介紹的各種心理剖繪與心智操控技術,的確也都有其學術研究的基礎,而「劍橋分析」濫用這些技術的方式,也令人大開眼界並有所省思。
水能載舟,亦能覆舟。懷利整個人生上半場的故事中,最諷刺的莫過於他本來懷抱著理想,想用科技和創新來改善政治和世界,最後卻淪為別人的政治工具在世界各處鼓動仇恨和對立;而懷利原本在他一手打造的「劍橋分析」公司中透過大數據監控他人,卻在他踢爆公司內情後反過頭來受到各方奪命式的監控;到最後,這個科技頑童不得不盡量遠離網路、電腦,與手機,反璞歸真地過著低科技的生活。由此可見,科技本身是中性的,其影響是好是壞端看是落在好人或壞人手中。當我們一方面享受著網路與社群媒體所帶來的便利,大方地送出個資來換取個人化服務的同時,我們也應當意識到:在世界的某個暗黑一隅,一台電腦之前,可能有個像上帝的老大哥時時刻刻地瞪大雙眼看顧著我們,而且更重要的是:一切都在他的掌控之中⋯⋯
「我彷彿看到了這位老大哥」,您若有所感。
等等!您不會正是作者口中那個疑神疑鬼而容易相信陰謀論的高神經質者吧?
推薦序2
初見真相,亦窺見未來
葛如鈞(國立臺北科技大學互動設計系 專任助理教授)
這次的閱讀體驗,既痛苦又沈重,卻又是對這世界現實太重要的認識,不得不咬著牙讀完,獲益良多,尤其最後作者以他自己參與了劍橋分析事件後,針對後真相時代科技企業過度擴權的問題提出了解答,更顯真知灼見。
近來許多的書籍知識與社會時事,都在本書裡連成一串,既如哈利波特一樣魔幻,又無比真實;也像電影駭客任務(Matrix)裡的救世主NEO選擇吞下象徵痛苦真相的紅色藥丸,極度不舒服地從母體裡醒來,像個嬰兒般無助,如我讀此書。我經常認為這個世界充滿各種陰暗黑箱,無論是政治黑箱還是裙帶黑箱,而我們往往寄託知識、書籍,期望它們可以帶領我們將黑箱一個個打開。這一回,此書讓我看到的,乃是對這個世界認識至今最大的黑箱,箱裡有金錢、政治、個人利益、社會利益;更有甚者,連我們的自由意志(我們曾經為此無比驕傲),也被放入巨大黑箱中,任由其膨脹,再膨脹。
書中最令我印象深刻的畫面,是作者描述劍橋分析團隊在蒐集了幾千萬美國選民的資料後,決定初次展示給「美國來的史蒂夫」,也就是後來影響川普勝選甚鉅的史蒂夫.班農觀看,一群人興奮地像喜愛惡作劇的大學生,個個不顧隱私道德和商業倫理,輪流躲在千里之外打電話給資料中的隨機群眾─毫不相識的陌生人,並向他們求證系統搜集的資料和猜測是否正確。電話中,他們偽裝自己是劍橋大學的研究人員,而實質上是後來惡名昭彰的劍橋分析,透過多個社交工具間接或直接地在用戶未受告知下,蒐集了極其詳細的個人資料與偏好預估,那也是這個團隊初次展露即將帶來的巨大威脅。
如上所述,書中許多段落實在太寫實也太好看,帶給我一次次如同揭開真實世界瘡疤般的劇烈痛楚,好幾度我幾乎都要翻不開下一頁;那些瘋狂的故事和場景,一再撞擊著我原以為自由、民主、流動的當代世界認知,卻又緊扣我對這段歷史與許多知識細節的真實體驗和記憶。本書所提到的許多心理認知偏誤(進一步被利用作為心理戰略的跳板),並非新聞,而是2002年獲得諾貝爾獎的丹尼爾.康納曼(Daniel Kahneman)多年研究;如今連知名YouTuber老高與小茉也在節目裡介紹多次,描繪這種人群被訊息和不精準的下意識決策給「催眠」而不自知的現狀有多可怕,但多數人依舊對此沒有太多認識。此外,書裡提到的2012 ∼ 2014年之間,正好是我也在做網路創業的時候,當年我們也推出一個叫做Linkwish 的服務,透過網路爬蟲程式抓取了上百萬台灣臉書用戶的公開或好友資訊,其間細節連我們自己身為開發者都為之咋舌。
此外,原先沒沒無聞的 SCL 和劍橋分析團隊,之所以火箭般成長,乃是因為某個華爾街量化基金操盤人──文藝復興科技公司執行長──默瑟給了大把金錢,才讓劍橋分析逐漸走向巨大市場,開始突飛猛進地改變國家內部的政治經濟結構,而這位默瑟先生,正好是我先前閱讀的一本描述文藝復興科技公司始末書籍的書中要角。
經由作者對親身經歷的詳加描述,我深感人心的脆弱、民主的脆弱,人類群體對於自身心智的理解不足,以及有能、有權的少數人為了個人利益,可以忽視多少人本價值,可以背棄多少道義信條,在數位網路時代下輕易左右多數人的心理現狀甚至進一步控制大多數人的決策,令人感到極度不安與惶恐。這一切,肯定還沒有結束,被曝光的永遠只是冰山一角,敵人往往躲入更深更黑的暗處,這是所有恐怖故事都會發生的事,而如今現實就已經是恐怖故事。
我讀著讀著,不禁想起某天夜裡看著Twitter 上的直播影片,只見班農和極富爭議的間諜網紅郭文貴先生,兩人共乘一艘快艇,在紐約自由女神像為背景的哈德遜河上破浪前進,一邊戲劇性地宣讀著極為超現實的《新中國聯邦宣言》,他們又再謀劃著什麼?正要去向哪裡?目光回到此書,我不禁膽顫心驚──劍橋門背後的各種黑箱,現在該不會又在演算著什麼新的東西?如果你恰好屬於對社會、政治和現實發展沒啥興趣的讀者,您只要記得一件事:「想知道未來長什麼樣子,看看有錢人做什麼就好。」現在數以億計的資金以及石油公司、五角大廈和白宮裡飛來飛去的演算法鬥爭,再過幾年,也許就是你我日常企業競爭與工作競爭之間的樣貌。只要這世界舞臺上的主角不變(也就是你我),那麼這場出自人心的認知偏誤與已知用火的數位狂徒們聯手打起的混戰,就絕沒有停止的一天,而我們每個人都將不由自主,牽連其中,只是你不一定看得見,也不見得有感覺。
推薦序3
劍橋分析公司的煉成與熔毀
楊斯棓(《人生路引》作者、方寸管顧首席顧問、醫師)
若你有在關注國際新聞,或許對劍橋分析公司會有點印象。先講結論,曾經翻攪多國政局、選情的劍橋分析,已在2018 年倒閉。
劍橋分析公司到底是怎麼冒出來的呢?那得先從英國的SCL集團公司講起,SCL是Strategic Communication Laboratories的縮寫,意思是戰略溝通實驗室,主要幫軍方在世界各地打心理戰與發揮影響力。本書作者克里斯多福.懷利曾任劍橋分析公司研究總監,他到任後翻讀公司的舊報告發現:「(公司)在東歐幫北約宣傳反俄思想;在拉丁美洲幫某個軍方客戶反毒,用假新聞騙種植古柯的農民跟毒梟反目成仇。」
這間公司從煉成到熔毀,不超過五年,原因是「涉嫌未經許可獲取了約5,000 萬名臉書用戶的個人數據,並運用這些個人數據挖掘出心理和人格特徵,為2016 年美國總統選舉制定有針對性的政治活動。」
作者以吹哨者之姿向《衛報》曝光了劍橋分析公司幕後操作的文件,也赴英國國會作證。此舉導致劍橋分析客戶和供應商大量流失,興訟不斷,2018 年5 月2 日宣布停止營運,並在美、英兩國相繼申請破產,目前連上其網站 cambridgeanalytica.org/,首頁可以看到其成員陣容之堅強,但若繼續點選網站細部內容,則會荒謬可笑地連到販售勃起障礙藥物的購物頁面。
作者引述2015年的一則研究發現,電腦模型可以用人們對特定臉書內容的按讚準確預測其行為。「這個模型只要蒐集你的10個「讚」,預測你行為時就比你的同事更準;如果有150個「讚」,就比你家人更準;有300個「讚」,就比你配偶更了解你。」
如果我得以監測他人,我發現某100個人平常會收看外媒頭條,沒有獨鍾哪一間媒體,我若投放謠言到他們的臉書上(以贊助手段讓某則貼文出現在其臉書上),可能較難煽動他們,但我若在那些不辨來源,樂在內容早被證偽的發文按讚的人當中挑100人,對他們投放謠言,譬如說「每天喝一萬cc的水,終身防癌」,他們很可能深信不疑,甚至樂於轉傳,把散播謠言當作傳福音,深信自己正在做好事。
政治野心分子若利用其中機巧,將嚴重翻攪社會。
如果監測方在臉書上投放一則影片,60秒的內容中,政治人物瘋狂的聲嘶力竭,狂開支票,把種種匪夷所思的建設都聲稱將要在他意圖統轄的城市迅速完成,監測方得知哪些人按讚,繼續針對這些人投放左右他們情緒或判斷能力的內容,如此,干預選舉結果絕非難事。
人們以為自己隨機看到的每則臉書,其實都是被挑選、設計過的,都是有心人準備以同情共感的外皮、擾動心神的內容、不必劫取掠奪,讓人們甘心奉上選票。人們會以為是「有人也這麼覺得」而把自己投射到某個「我們」的一分子,卻沒注意到臉書一角淡色的贊助字樣,甚至就算看到了贊助字樣,也選擇忽略。
我若是某城市的殷實小販,擔心下一代無法在家鄉覓職,我在某些新聞按讚的軌跡,很可能因為我玩了某些小遊戲(接受玩遊戲的同時,等於承諾交出自己的網路軌跡)而一次曝光,於是監測方順理成章的掌握我正是屬於「擔心自己下一代仍無法在家鄉找到工作」的中年人,監測方只要投放一些跟我下一代年紀相仿者,淚眼汪汪的談著自己飄落他鄉的影片,我就會不由自主地同仇敵愾,把自己與友人的敵我線畫得涇渭分明。跟我同情共感的人,就是同國的,只要質疑此論述,就不是自己人,我再也不相信非自己人提供的任何客觀證據,我只相信我想相信的。
這還不夠可怕嗎?
作者分析:「進入網路時代之後,我們每個人都變成了一座礦脈,我們的行為、注意力、身分都可以開採換錢。」
販售彩券的商人,若透過購買不肖業者手上掌握的用戶軌跡,得知社會上哪20% 的人最喜歡點選一夕致富相關文章,然後不斷投放「包牌勝率更大」的廣告給他們,他們的荷包乾癟速度,已可預見。
民眾是盲目而愚蠢的,往往前一秒才喊著政府管太多,下一秒又喊著政府都不管。
作者提醒,我們不該放任科技公司不受約束。懷利把監理的概念比喻成馬路上的減速丘,說明監理可以保護新科技與新網路生態系的用路安全,絕不能坐視毫無約束的狂飆行為。
災難發生後,如果我們懂得反省檢討,進而催生適度約束的法規,眾人或許得以免於頻繁受災難蹂躪。
人類的歷史,不正是一部災難反省史?我們若深刻反省與思考,就能稍有餘裕的面對下一次的考驗。西元64年,羅馬大火後,羅馬皇帝尼祿規定了房高街寬與公共給水標準。臉書社群平臺直播槍擊或劍橋分析公司過往的行徑,也像一把野火,已燃燒良久。誠如作者所說,我們要模仿過往大火給先民的教訓,制定規章,約束乖張者的行為,以保障最大多數人的福祉。
正如作者疾呼:「在現實中,我們不會讓人們同意走進那些電線故障或沒有逃生出口的建築物。」臉書上的小遊戲或誘騙我們點進去的「這是你嗎」影片,都是一棟棟有嚴重公安問題的建築物,這些建築物可能因此竊取我們的帳號密碼,或者竊錄我們的足跡,遂行己欲。
我們不該只處於守勢一味戒慎恐懼,我們需要有法可依。