「數據極權主義」之下的人類未來生活
在今年的反送中運動中，九龍灣的智慧燈柱成為了其中一個意外的犧牲品。與6.12的包圍立法會一樣，這個事件具有某種層面的象徵性意義。6.12以對野蠻、罔顧民意的政府有效的、簡單粗暴的方式徹底阻止了逃犯條例修訂成為法律，而九龍灣倒下的智慧燈柱，則給不明真相的民眾一劑清醒針，即便沒有恍然大悟，也應該知道這其中的「貓膩」。
George Orwell耳熟能詳的小說「1984」，Big Brother 是大洋國的最高領袖， 「Big Brother is Watching You」是城內隨處可見的標語，提醒國民小心說話行事，因為四周圍都有監聽設備和秘密警察。沒有人見過Big Brother，但都相信他的存在。其實，今天，以及我們下一代及未來，Big Brother已經改頭換面在某些國家甚至全世界再次無處不在，你沒看見他，他卻時時刻刻看著你。
2019年，哈佛商學院教授Shoshana Zuboff 的最新著作 〔The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontie of Power/監控資本主義時代 — 新權力邊疆的人類未來之戰 by Shoshana Zuboff, 2019, Hardcover,704 pp., ISBN 9781610395694〕是近年來最為系統化介紹當今世界最新的資本主義的新現象。她成功定義了「監控資本主義Surveillance Capitalism」，並從社會學、政治學、經濟學、心理學、管理學等角度，全面清晰論述了監控資本主社會的商業邏輯、社會危害。是近年來難道一見的把目前網絡新經濟所涉及的與傳統資本主義不同的商業邏輯系統性論述的專著，非常值得一讀，並為政治、經濟、社會領域的專業人士借鑒及思考。
1. 監控資本主義產生的背景
作者以2000年開始的一個“Aware Home”項目作介紹，這是在一個「計算無處不在」（ubiquitous computing) 的ICT （Internet/ Communication/ Technology）行業偉大願景之下的一個項目。本人在此之前開始也一直從事於此行業，因此，對作者這方面的背景描述非常熟悉。
問題的關鍵就在於，這些Smart Home以至今天的Smart XX（xx代指：city, vehicle, industry, etc.）項目所涉及到的各種技術，均需要基於數據的蒐集、分析、決策。而這些數據來源於Smart XX的各種場景，特別會涉及到個人穩私的數據，這些數據的所有權及使用權究竟屬於誰，這不是簡單的個人私隱法例可以解決的問題。
過去20年來，以互聯網為基礎的應用普及，極大的改變了社會及人類生活的方式。注意力經濟、用戶體驗、用戶感知、大數據、雲計算、人工智能….等一切，均是建基於用戶大數據（Big Data）的蒐集、分析、處理及利用之上。沒有這些數據基礎，今天的一切體驗均不複存在。
今天的Google、Facebook、Instagram、Youtube、Amazon等，普通的用戶幾乎每天都無法離開，然而，大家仔細想一想，你所獲得的服務及體驗，大多是免費的，這明顯與資本主義的商品價值交換原則不符，那麼這如何能夠持續？Facebook沒有生產一件商品，確是今天在資本市場上市值最高的幾家公司之一，與Apple相比較，後者有龐大的供應鏈及研發、生產、服務體系，才最終僅與員工只需呆在冷氣充足的辦公室中工作的Facebook公司看齊。
類似Facebook、Google這樣的公司，根本不生產產品，而其強大的平台，已成為現代人生活的一部分。而這些平台最重要的功能就是蒐集用戶數據！借助現在越來越強大的計算能力，分析這些數據，改進提升用戶體驗。這是大多數人能夠感知到的現象。然而，如果僅僅如此，這些公司則早已倒閉關門。用戶數據的真正價值，在於對這些數據的挖掘(data mining)、分析、包裝，然後再變現（monetization）。維系這些平台用戶的忠誠度（用戶粘性），只是為了讓這些平台能夠持續的基礎條件之一，也就是說沒有用戶，就沒有價值。內地過去幾年「共享經濟（Sharing Economy）」模式，投資方願意不斷虧本燒錢，就在於，只要能夠獲得足夠的用戶，在相應市場占絕對壟斷地位，最終可以通過其它服務來獲得資本的回報。
今天的世界就是這樣！一切看似免費，卻代價巨大！不僅是前面的Smart Home，你的手機、手錶、家電（包括現在Amazon、Google等的各種智能音箱，更是一個恐怖的個人私隱數據蒐集源），大街上及其它公眾場所無所不在的CCTV、以至你瀏覽任何網路資源、手機中的各種Apps…都讓你成為生產個人信息/數據的最終生產者，如同自由的奶牛一樣，無時無刻不在為這些平台提供、生產原始的數據。是的，奶牛不需要為食草付費，因為它每天被擠出的奶，產生的價值遠遠大於食草供應的成本（還會有舒䢪的牛圈）。
歐盟的GDPR（General Data Protection Regulation）在2018年5月已開始執行，今年Facebook CEO Mark Zuckerberg因與第三方公司分享用戶數據也多次到國會解釋其對個人私隱數據的保護問題。Trump總統上任以來的2年多，一直為2016年俄羅斯是否有介入總統選舉的調查而困擾，這一切，都涉及到用戶數據的肆無忌憚的任意挖掘、分析、包裝、分享、變現。
在中國，已建成了世界上技術最先進、覆蓋最全面、數據最豐富的Digital Jail，大英帝國BBC的記者不信邪，試圖采訪被監控異見人士，而在其離開賓館7分鐘之內，就被安保人員阻止了，效率及精准度之高，冠絕全球。這樣的「驕人成績」，離不開對相關異見人士的多維度嚴密監控，這也是用戶行為數據的「價值體現」。
世界改變太快，新的技術顛覆了傳統的認知。上述這些公司的商業邏輯，不斷地衝擊著傳統的個人價值觀及整個社會的價值體系，並且可能對人類天生的自由、民主、私隱等帶來嚴重挑戰及難以估計的後果。然而，整個知識理論界對此一現象的全貌的認識並不全面、更難以說深刻。
在此背景之下，哈佛商學院教授Shoshana Zuboff 的著作「The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontierof Power」 ，洋洋灑灑700頁，系統性的描述了類似Facebook, Google這樣的公司的商業邏輯及對人類傳統社會的挑戰。
2. 監控資本主義的定義
將監控經濟當作資本主義的一個全新發展模式，這是Prof. Zuboff的創見及洞察。她的監控資本主義定義分成了8個要旨：
什麼是監控資本主義：
a. 一種新的經濟秩序，聲稱可將人類體驗作為免費的原材料用於分析抽取、預測、銷售等隱秘的商業活動實踐。
b. 一種寄生經濟邏輯，商品和服務的生產讓位於新的全球性（用戶）行為塑造架構。
c. 資本主義的異常變異，以人類歷史上前所未有的財富、知識、權力的集中為其標志。
d. 監控經濟的基本框架。
e. 類似於產業資本主義在十九至二十世紀對自然界的重大威脅，這是二十一世紀對人性的重大威脅。
f. 一種新的權力工具的起源，它聲稱具有對社會支配地位、並為自由市場帶來驚人的挑戰。
g. 旨在強制推行的基於完全確定性的新集體秩序運動。
h. 最好的理解則是通過自上而下的剝奪個人的自主權而達至對至關重要的人權的剝奪。Prof. Zuboff對監控資本主義的定義從多個角度來觀察，已比較全面了。我們再次對比一下傳統的資本主義的構成要素，要有生產資料、要有勞動力。也就是說，生產商品要有原材料、要有工具、要有生產者，這樣，通過勞動產生價值，形成商品銷售給用戶。即便後來，知識型服務經濟的產生，也一樣不能夠缺少這些要素。而監控資本主義，則以用戶的體驗為原材料，通過用戶體驗的各種場景下的數據分析、 判斷預測用戶的行為喜好，精准地向用戶推薦商品或者其它服務、建議等，當然，也包括其它的用途，如對異見人士、政治反對派的監控方面。
這些免費的數據原材料，基本上都未獲得用戶的同意、授權蒐集使用。而且，個人數據的蒐集源則如前所述，無所不在，個人無所逃避。這種對個人監控的場景，遠非Orwell的「1984」可以相提並論。用戶在這些平台根本就不是傳統意義上的的商品用戶或者消費者，而是行為剩余價值（behavioral surplus）生產源。這些剩余價值，通過Google，Facebook等平台的分析、引導、甚至控制用戶的行為，達至其商業利益目標。但這並非最為嚴重的後果，用戶犧牲了自己的數據私隱（非簡單的用戶特定身份信息，而是指網上虛擬世界的行為數據信息），獲得了可能是滿意的用戶體驗。然而，在類似社交媒體之上（Facebook, twitter, youtube等），巨大的社交圈關注量及傳播效應，足以通過有意的引導，為特定的目標付費客戶（或者政治客戶）進行網絡輿論的導向，這無疑對自由、民主、公平等帶來嚴重威脅，也會對傳統道德、 公義等帶來影響。
而這一切，都是用戶放棄了在網絡虛擬世界作為個體的數據的擁有權，成為一只會源源不斷產生有價值數據的奶牛帶來的後果。海量的個人用戶行為數據，通過自動化的分析，作出精准的個人畫像，如基本的信息（年齡、學歷、消費、收入、喜好等）、政治偏向、網上行為、位置信息等，擁有這樣的數據，對商家的利潤的創造非常有利且有確定性。而用於政治目的，也是一樣非常容易的事。因此，在監控資本主義的生產關係中，我們並不是它的客戶，它們的客戶是那些與平台（Google、Facebook）交易其用戶行為數據的企業等，平台的個人用戶只是他們拋棄的「屍體」。
Surveillance capitalism’s products and services are not the objects of a valueexchange. They do not establish constructive producer-consumer reciprocities.Instead, they are the “hooks” that lure users into their extractive operations in which our personal experiences are scraped and packaged as the means to others’ends. We are not surveillance capitalism’s “customers.” Although the saying tells us “If it’s free, then you are the product,” that is also incorrect. We are the sources of surveillance capitalism’s crucial surplus: the objects of a technologically advanced and increasingly inescapable raw-material-extraction operation. Surveillance capitalism’s actual customers are the enterprises that trade in its markets for future behavior.3. 全書的主要內容
過去二十年來，所謂新經濟、知識經濟、共享經濟、注意力經濟….一切建基於用戶行為數據之上的應用，不管是商品服務、網絡體驗、還是安全、政治監控等，都是監控資本主義（或許在中國應該叫監控社會主義了）。Zuboff教授認為與傳統資本主義不同之處，主要體現在：不再有傳統的消費者與生產者之間的互惠的價值交換關係，平台享有了知識與自由的極大特權，而個人則失去了自主性。
當個人的行為數據等不再為個人所擁有，個人變成了一個透明人，所有一切的行為均被監控或者再利用，個人的行為被預測及特意導向（改變人的行為模式），個人的意志其實已不具有意義，這是典型的極權社會的特徵。這就出現了另外一個新的名詞：數據極權主義（尚無英文對應名詞，亦無中文章名詞）。那麼，人生存的意義是什麼？這又成了一個新的哲學問題。想想這樣的場景，每一個人的價值觀、政治立場等，其實都有一只隱形的手在背後操控、引導、並根據個人畫像（行為特徵）進行特定的信息灌輸，非常輕易形成對特定群體的集體「冼腦」…這是一個多麼恐怖的場景！
全書結構簡單，分為三大部分：數據的來源、誰應擁有數據、誰擁有決定的權力（Instrumentarian power）。回答這三個問題，本身也是非常複雜，涉及到各方領域的問題，甚至在用戶隱私保護的法規方面，也是具有非常大的挑戰。譬如，個人行為動機的分析，甚至會涉及到道德層面的挑戰，平台在使用這些數據時，尺度究竟應在何處？而個人用戶，則為了一些「服務體驗」或者功能應用，被動選擇犧牲了對個人數據的處理權，法律又應該如何保障？在某些國家，無處不在的CCTV監控及網絡監控，個人根本不可能逃避，在這樣的國家，如何保護或者使用個人數據？擁有數據，就如同傳統資本主義經濟下擁有石油、礦山等資源的企業一樣， 具有強大的且目前為此還未受控的權力，而且這權力並非合法授權，而是強行的侵入或者不公平的剝奪所獲得。技術的進步，卻將人類帶入一個反民主、反自由的監控資本主義時代或者數據極權社會，這應該不是人類的初心。
下則新聞報道，有助於了解監控對社會價值體系的破壞。Orwell再世，也要感嘆科技的進步，對人類的天性自由的危害。
再看看Facebook與FTC （美國聯邦貿易委員會Federal Trade Commission，FTC）達成就2018年用戶數據外泄事件繳付約50億美元罰款的協議，這是FTC有史以來對科技公司發出最大額的罰單。僅從罰款額，就可以想像，這些靠用戶數據發財的公司，是傳統資本主義企業根本無法想像的，由此也可以知道，用戶數據就是可以不斷再生的金礦！
4. 數據極權主義之下的生存之道？
在傳統極權主義國家生存已是非常悲涼的事情了，不幸的是對香港而言，除了這個傳統的極權社會已經到來之時，我們很快還要疊加一個數據極權主義的社會特徵。所以，我之前在Facebook簡單評價了九龍灣的智慧燈柱的倒下，是具有特別的意義。然而，在沒有民主的體制之下，威權的政府從來不會協商、妥協的，以一種方式沒有達到的目標只會以另一種方式再次出現。
如果前二十年，作者成書之前的監控資本主義還只是一個嬰兒的話，從現在開始，這個嬰兒就要快速成長了。5G網絡（5th Generation Mobile Network）從2019年就將在全球快速商用部署，這個網絡較現階段的4G網絡在網絡速度方面提升100倍、延遲更低（響應速度更快）、覆蓋更密集。物聯網IoT（Internet of Things）/IoE (Internet of Everything)將會快速得以應用。在此場景之下，任何一個object （包括HK 三萬 Police Ojbects），均可隨時隨地聯接在網絡之上（即萬物互聯的場景，甚至任何一個HK Police Objects的其它附身Objects，如警棍、服裝、發射的催淚彈均可以唯一標識及聯網）。從你的心跳在瀏覽Pornhub的變化、你在網上購物對商品的瀏覽時間及比較、以至你的政治觀點、朋友圈的階層及社會經濟地位等，事無巨細，全在網絡平台的精准掌握之中，如果你非常不注意個人隱私的保護，家中的Google Echo智能音箱，可能隨時成為晚上sexuality方面的live stream，當再次上網瀏覽時，系統向你推薦sex方面的最新用品，就不要感到奇怪。
如前所述，如果沒有一個全新的對用戶數據的使用、保護的法規，很快這個世界將會亂套！當然，林鄭的隱私講話將根本就不存在隱私，不需要路透社就總有方式可以獲取。
當要進行政治活動，如法例諮詢、總統選舉等，監控資本主義可以輕易地進行信息過濾及傳遞，從而刺激、激發、引導民眾的情緒及行為，最終影響政治選擇。2000年之後的年代，計算能力的提升，網絡基礎資源的不斷增強，這些平台用金錢引誘了最優秀的一代數據科學家，而製造出了危害下一代的平台工具系統，民眾被虛擬的世界所吸引，認知、認同、喜好等完全缺少了人類天然本應該具有的自我自由意志及思考的能力，在虛擬的網絡中獲得了現實中不一樣的（虛假的）認同，如同毒品一樣，形成網絡依賴，更進一步弱化了自我獨立的思考能力。而在可見的未來，AI（Artificial Intelligence 人工智能）的應用，將會更精准的分析海量的用戶行為數據，終有一天，最了解你自己的，不是你自己，而是AI Agent（如機器人、各種虛擬助理等）。
今天的人，願意去讀一本幾百頁的小說或專著的越來越少，而網絡video、搞笑短句/短文、心靈雞湯等，則成為了大多數人知識獲取的來源。最終，思考的能力越來越弱，從眾效應越來越強，這是最為極權統治所需要的形態。仔細看看中國的「抖音TikTok」，不僅是普通民眾娛樂或自我表現的主要形式，更成為了各個權力機構的意識形態宣傳、「冼腦」的工具，當然，更是平台的賺錢金礦。然而，正是這些平台，讓其使用者逐漸成為弱智的一群。2019年全球各地支持香港反送中運動的各種集會活動，成群的中國留學生的表現，基本上可以判斷為「被腦殘」的一代，他們就是這些數據極權主義下的平台的無價值的「屍體」。
今天，可能大多數人已無法擺脫對這些平台的依賴。而Facebook、Google以及內地Wechat等，也讓民眾相信這是技術的進步、是改變人類生活的目前的最好的方式。然而，誠如前面所言，這個監控資本主義的產物，在很多方面的應用，已經嚴重侵犯了人類的先天性的自由及隱私，另外，也成為某些極權國家統治及鞏固政權的更為有效的監控、打壓政治對手的高效能工具。
人類應該選擇什麼？當然在於人類自身。科技可以改變世界，包括人類。而人類則可以有智慧和能力限制其負面的影響。現代生活中的這些應用，已經離不開個人數據信息，但是如果以這些數據信息為原材料，進行用戶行為的刻意引導、塑造，則首先存在著道德的風險。法律應該著手於這方面的限制。個人的數據信息僅限於改善為此人的商品及服務體驗，而非無限制的衍生應用、甚至與第三方的無限分享及繼續挖掘剩余價值，這會引起社會及道德的徹底崩潰。
普通的民眾，也要清楚明白，自己才擁有對自己產生的數據信息的天然所有權。不要為了一時的方便而成就了監控資本主義的惡。而政府，必須管制甚至禁止在藉此場景下的對用戶數據的挖掘、分析、行為預測、轉賣、分享、銷售等行為。歐盟的GDPR是一個開始，但僅僅是一個很小的開始。監控資本主義要成為一個新的信息資本主義的的模型，對信息的監管則更為重要。否則，民主、自由、道德等，全會失控。
如果你已看至此，已是非常不容易，因為原書太長了，我僅能夠寫一點點，另外拜託再like一下我孤獨的Facebook Page:
25/10/2019
