• 罷免過關
20171031-SMG0035-快訊小紅條兒

中國的「數位極權主義」:《監控資本主義時代》選摘(3)

2020-08-18 04:30

? 人氣

在中國的脈絡中,國家主掌一切、擁有一切,用機器解決方法來形塑自動化行為的新社會,以取得政治和社會上的保證結果:無恐怖的確定性,而所有供應鏈的各個管道,都會把行為剩餘傳送至這個複雜的行為修正新手段。(資料照,美聯社)

在中國的脈絡中,國家主掌一切、擁有一切,用機器解決方法來形塑自動化行為的新社會,以取得政治和社會上的保證結果:無恐怖的確定性,而所有供應鏈的各個管道,都會把行為剩餘傳送至這個複雜的行為修正新手段。(資料照,美聯社)

他是他們的僕從(有些人說他目盲),

在他們的臉孔與物品間穿梭:

他們的感受如風匯集在他身上

發出歌聲。他們喊道:「是神在歌唱。」

――威斯坦.休.奧登,《來自中國的十四行詩》,第七首

中國症候群

如今我們不難想像,這個以確定性取代社會的潮流會導向哪種符合邏輯的結果。中國政府已發展一套全面的「社會信用」系統,一名中國學者形容該系統是中國網路議題的「核心」。這個系統的目的是「利用個人數據的爆炸性成長……來改善公民的行為……個人與企業的行為都會按照不同方面(去哪裡、買什麼、認識誰),逐一評分,這些分數將整合進一個全面的資料庫,此資料庫不僅連接政府資訊,也連接民間企業收集的數據」。

[啟動LINE推播] 每日重大新聞通知

這個系統會追蹤「好」與「壞」的行為,範疇涵蓋各種財務與社會活動,自動指派懲罰與獎勵,果斷地塑造個人行為,在經濟、社會、政治生活中逐步「建立誠信文化」:「目標是讓每個中國公民都擁有一個檔案,累積來自公共與民間來源的數據……用指紋和其他生物辨識特徵即可搜尋。」

習近平發表談話的畫面出現在北京街頭。(美聯社)
中國政府已發展一套全面的「社會信用」系統,系統會追蹤「好」與「壞」的行為,範疇涵蓋各種財務與社會活動,自動指派懲罰與獎勵,果斷地塑造個人行為,在經濟、社會、政治生活中逐步「建立誠信文化」。(資料照,美聯社)

儘管中國的社會信用願景不約而同被稱為「數位極權主義」,也經常拿來與歐威爾《一九八四》的世界相比,但它不如說是機器控制力量的完美典範,以公共與私人數據來源餵養,並由集權國家掌控。關於其前導計畫的描述正是非常強力的例子,展現了監控資本主義的行動經濟與超大規模行為修正手段的精細建構。系統的目標是實現社會自動化,藉由校準、驅趕、制約,讓民眾產生預先選擇好、國家想要的行為,如此一來就能「預先消除不穩定性」(套用一位戰略研究專家的說法)。換言之,目標是要運用機器控制主義的行為修正手段,來保證社會結果,而非市場結果;於是出現了這個系統,讓我們能夠一窺機器控制主義與國家權力全面融合所引發的一種未來。

中國這個願景,是為了解決中國獨有的社會瓦解詛咒。記者艾咪.霍金斯(Amy Hawkins)在《外交政策》(Foreign Policy)上刊登文章,解釋社會信用系統被當成一種解藥,來解決在中國蔓延的社會缺乏信任之疾病:

「在今時今日,身為中國人,等於是居住在缺乏信任的社會,任何機會都是潛在的詐騙,任何慷慨之舉都隱含遭人利用的風險。」

有一份針對當代中國社會信任情形的實證研究相當有意思,該研究發現,其實「內團體」當中存在高度的信任,可是這卻和負面的健康狀況相關。結論是,許多中國人僅信任對他們來說有名的人,他們對其他人際關係皆抱持懷疑與焦慮,這對社會信任與身心健康造成的後果自不在話下。這種廣為傳播的不信任感,通常歸咎於高速現代化、轉型為準資本主義國家帶來的創傷,但同時也是中國極權主義遺留下來的影響。中國共產黨拆毀傳統領域,包括人際關係、身分認同、社會意義(家庭、宗教、公民社會、知識論述、政治自由),像極了鄂蘭所言那摧毀信任羈絆的「單原子化」過程。如霍金斯所述:

「然而,中國政府所做的不是逐步重新引介傳統道德倫理,來降低缺乏信任的情況,反倒偏好將心力投注在科技解方……大眾已經受夠了不知道該信任誰,於是加以歡迎……一部分的原因是他們別無選擇了。」

中國政府意圖徵用機器控制力量,以必然結果取代一個破滅的社會。

《港區國安法》在中國史上肯定會記上濃重的一筆,成為習近平新時代一個最黯黑的印記。(美聯社)
中國廣為傳播的不信任感,通常歸咎於高速現代化、轉型為準資本主義國家帶來的創傷,但同時也是中國極權主義遺留下來的影響。(資料照,美聯社)

二〇一五年,中國央行宣布展開一項前導計畫:各大電子商務企業將主導數據整合與軟體研發,以供個人信用評分之用,其中的佼佼者是阿里巴巴旗下的螞蟻金服,該公司推出的「個人信用評分」服務稱為「芝麻信用」。芝麻信用系統能產生關於一個人「性格」的「全盤」評分,搭配演算式學習,範疇遠遠不止於準時繳帳單與貸款,演算法會衡量消費習慣(買電動還是童書)、學位、交友的數量與「品質」,藉此評等。一名記者曾描述她的芝麻信用體驗,警告這套演算法簡直「不可理喻」,一一評估她的社會接觸、開什麼車、做什麼工作、念什麼學校、諸如此類的不明確行為因素,聲稱這些都「與良好的信用有關」。影子文本依舊遙不可及,使用者落得只能猜測如何提高分數,包括與評分低的朋友斷絕往來,廣為結交評分高的人,有些人認為這有助於提升評等。

螞蟻金服董事長宣稱,這套評分系統「可以讓這個社會的壞人無處可逃,好人暢通無阻」。分數高的人可以在行為未來市場當中,從芝麻信用的客戶得到榮譽與獎勵:無須押金即可租車,貸款和租屋可取得較優渥的條件,辦理簽證可享有快速服務,在交友軟體上擁有特殊待遇等各式各樣的好處。然而,報導指出,高信用帶來的特權也可能因為與消費行為無關的原因,轉眼消失無蹤,例如在大學考試中作弊。

二〇一七年,央行停止支持民間企業發展的個人信用計畫,原因可能是這些計畫實在太成功了,集中了過多資訊與力量。短短兩年內,芝麻信用便累積逾四億用戶,控制了這些用戶各方面的生活。一名記者以螞蟻金服為主題寫了一本書,預測政府正準備接收整個系統:「這項人民信用的建設太重要了,政府不希望它落在什麼大公司的手裡。」中國政府似乎明白,擁有行為修正手段,就能逐漸累積權力,行為參數是由行為修正手段的擁有者設定,如此即可定義保證結果。於是,公私力量開始融合。

擁有「支付寶」業務的螞蟻金服,估值逾4000億人民幣,最終選擇在何地上市是外界關注焦點。(圖/BBC中文網)
阿里巴巴旗下的螞蟻金服,該公司推出的「個人信用評分」服務,該系統能產生關於一個人「性格」的「全盤」評分,搭配演算式學習,範疇遠遠不止於準時繳帳單與貸款。(圖/BBC中文網)

如果想知道機器控制力量與國家權力結合,將產生什麼樣的社會,可以先從所謂的「失信被執行人名單」(judgment defaulter’s list,俗稱「黑名單」)開始。《經濟學人》(Economist)曾形容該名單是社會信用系統的核心,或許可說是衡量社會信用系統遠大企圖的最佳指標,名單內含債務人與任何曾違抗法院命令的人:

名單上的被執行人不能購買機票、高鐵票、火車一等座與商務座車票,不能買賣或建造房屋,子女不得就讀高收費學校。被執行人將限制入黨、入伍、在黨內與軍中晉職晉級、接受表揚及擔任職務。假如被執行的對象是一間公司,該公司可能不得發行證券、接受外資投資、參與政府工程。

根據一份《中國日報》的報導,自從黑名單在二〇一三年生效,已自動履行被執行人限制購買機票六百一十五萬人次,藐視法庭者限制購買高鐵票兩百二十二萬人次,約七萬一千人由於債務而錯失在企業擔任管理職的機會。中國工商銀行表示,該行已拒發逾六十九億七千萬人民幣(約十億一千萬美元)給名單上的被執行人。沒人被送進再教育營,但被執行人不得購買奢侈品。根據商務部研究院信用研究所所長所言:「由於這些不便,名單上約有百分之十的被執行人開始自主償還銀行欠款,這表示社會信用系統是有用的。」行動經濟完全按著計畫走。

對於芝麻信用的四億用戶而言,機器控制力量與國家權力結合帶來的衝擊不小。登錄在黑名單上的人發現,信用體系的設計令他們陷入向下沉淪的螺旋,一去不回:

「剛開始,你的分數下降,接著朋友聽說你被加入黑名單,怕自己受影響,於是悄悄把你從聯絡人刪除,這件事被演算法注意到,結果你的分數便再度驟降。」

中國政府的願景飽含難以企及的雄心壯志:利用演算法篩選無止無盡的公共與私人數據洪流,包括來自各領域的線上與線下體驗,再進入十五億人的個人生活,讓演算法獎勵、懲罰、塑造行為,連最新的公車票也不放過,藉此將社會行為給自動化,實現澈底覺察與絕對確定性的大夢。目前,這項計畫打散成許多個前導計畫,不只散布於多間科技公司,也散布在各個城市之間,因此難以掌握政府希冀達成的規模。眾多專家相信,要將這等浩大、複雜的系統合而為一是很困難的,甚至不可能辦到。

中國夢,北京街頭的標語:我愛中國。(美聯社)
中國政府的願景飽含難以企及的雄心壯志:利用演算法篩選無止無盡的公共與私人數據洪流,包括來自各領域的線上與線下體驗,再進入十五億人的個人生活,讓演算法獎勵、懲罰、塑造行為。(資料照,美聯社)

我們也有理由認為,社會信用系統對本書主題未必有那麼關鍵。一個顯而易見的理由是,中國並非民主國家,中國文化與西方文化天差地遠。雪城大學(Syracuse University)研究員汪洋(Yang Wang,音譯)認為,中國文化不如西方文化重視隱私,況且多數中國人都已對政府的網路監控和審查有一定的了解,在一九九〇年代中期以前,中文辭典甚至不存在「隱私」這個詞。中國人民早已接受身分證內含生物辨識晶片,接受「計畫生育」,如今又接受了社會信用評等,畢竟中國社會的監控與資料蒐集持續了數十年。比方說,「人事檔案」就是內容涵蓋廣泛的個人檔案,累積數百萬公民一生中從小到大的資訊,這套「始於毛澤東時代的系統記錄每個人最私密的小事」,由教師、共產黨官員、單位人員更新,一般公民無權閱覽檔案內容,遑論改正。

這套控制行為的行政體系無遠弗屆、行之有年,滲透了日常生活,時而封賞,時而懲處,人事檔案只不過是其中一二。隨著網路發展,社會控制計畫一同擴張,比如說「金盾工程」就是個廣大的線上監控系統,一旦使用者傳送的訊息夾帶敏感詞,像是「西藏獨立」或「天安門事件」,中國的網路偵測器就會停用該人的網路或社群媒體帳戶。

即使我們的政治與文化天差地遠,但中國社會信用計畫有愈來愈多證據顯示監控資本主義的邏輯,以及其創造的機器控制力量。芝麻信用加強了監控資本主義計畫的每個面向,自動化的行為修正機器將上億人捲入其中,逐漸浮現的行為未來市場持續分送利益與獎章,有如揮灑著寶可夢精靈粉,藉此換取保證結果。

新疆和田市的居民在安全檢查站排隊接受檢查,準備進入和田市集。後方的大螢幕上正在播放中國國家主席習近平的新聞。(美聯社)
控制行為的行政體系無遠弗屆、行之有年,滲透了日常生活,時而封賞,時而懲處,人事檔案只不過是其中一二。(資料照,美聯社)

中國使用者每接觸一次數位裝置,便受到轉換、分類、排入佇列供預測之用,但我們也一樣。我們在Uber、eBay、臉書、許許多多網路事業上受到評等,這些還只是我們看得見的評區分。中國使用者會得到一個「人格」分數,美國政府則要求科技公司訓練演算法,計算「基進」分數。影子文本的工作是以無數方式來評估、分類、預測我們的行為,我們對此一無所知,無從對抗──這些就是我們的數位人事檔案。在信用評分這方面,英美的銀行與金融服務會挖掘、分析社群媒體的數據,建立浮動商業模型,據此給予信用分數,臉書本身就曾暗示對這方面的興趣,還申請了專利,這些打算之所以作罷,全是因為聯邦貿易委員會警告要介入規管。

牛津大學中國研究學者羅傑.克雷默(Rogier Creemers)是最早翻譯社會信用相關文件的人之一,他觀察到:

「邁向社會工程、『鼓勵』一個人做出『良好』行為的潮流,正好與矽谷的觀點相仿,這種觀點認為透過科技的破壞性力量,可以一勞永逸解決人類的問題……就這個角度而言,或許最令人震驚的部分不是中國政府的意圖,而是這與其他國家的科技發展方向多麼類似。」

二〇一七年,一場監控科技博覽會於深圳舉行,會場擠滿來販售最新產品的美國企業,尤其是裝設人工智慧與臉部辨識功能的監視器。英國監視設備經銷商CCTV Direct的總經理也身在其中,他一方面慨嘆道,相較於中國監控設施的技術,「西方國家落後太多了」,另一方面又深感安慰:「生於此地的科技,最終落腳於美國的家庭、機場與公司。」

西方的監控資本主義與中國逐漸成形的社會信用體系,兩者之間的差異在於機器控制力量國家權力相互糾葛與結合的模式,這是結構上的差異。在西方,如我們所見,模式有許多類型,最初國家扮演了搖籃和避風港的角色,隨後轉變為熱切的學生與嫉妒的親戚;監控資本主義與其機器已然成熟,兩者的合作關係儘管時斷時續,卻又是必要的。關鍵的機器控制能力掌握在監控資本主義大企業手裡,國家非得與這些公司合作,透過他們來使用國家追求的力量。

在中國的脈絡中,國家主掌一切、擁有一切,這並不是市場計畫,而是政治計畫,用機器解決方法來形塑自動化行為的新社會,以取得政治和社會上的保證結果:無恐怖的確定性。所有供應鏈的各個管道,都會把行為剩餘傳送至這個複雜的行為修正新手段,國家化身為行為之神,一手掌握影子文本,決定由影子文本塑造的增強時制與例行行為。自由遭到知識剝奪,然而這些知識由國家享有,不為牟利,而為延續國家本身的生命。

《監控資本主義時代》套書立體書封。(時報文化出版)
監控資本主義時代》套書立體書封。(時報文化出版)

*作者為哈佛大學商學院榮譽退休教授,也是該校第一位獲得終身職的女性學者。長期投入研究數位社會的崛起,包括它對個人、組織與社會的影響,以及其對於資本主義的過去及未來的影響。此外,還建立並主持高階管理計畫「奧狄賽:下半場人生學校」。另著有The Age of the Smart Machine and The Support Economy。

關鍵字:
風傳媒歡迎各界分享發聲,來稿請寄至 opinion@storm.mg

本週最多人贊助文章