← 報告總覽

《AI 帝國》讀書報告

Empire of AI: Dreams and Nightmares in Sam Altman's OpenAI 作者:凱倫·郝(Karen Hao)


一本「公司書」的反面:用 OpenAI 當稜鏡,看一個正在成形的帝國

凱倫·郝在〈作者註〉裡,給了這本書一句斬釘截鐵的定性:「這不是一本企業書(This is not a corporate book)。」

這句話值得放在最前面,因為它幾乎決定了你該怎麼讀《AI 帝國》。市面上關於 OpenAI、關於山姆·奧特曼(Sam Altman)的書與長文已經夠多了,多半在做兩件事:要嘛把奧特曼寫成普羅米修斯式的天才,要嘛把 ChatGPT 的爆紅寫成一齣矽谷英雄劇。郝走的是相反的路。她說,OpenAI 的內幕故事「意在作為稜鏡(prism),讓人看到遠超越這一家公司的事物」——一份關於「科學野心如何變成具侵略性、由金錢驅動的意識形態追求」的描寫,「是對權力的一場沉思」。

支撐這個野心的是扎實到近乎笨重的報導工程。全書建立在對約 260 人進行的逾 300 場訪談之上,其中超過 150 場是與 90 多位 OpenAI 現任或前任主管、員工(及少數能接觸模型開發文件的承包商)進行;另有微軟、Anthropic、Meta、Google、DeepMind、Scale 等公司約 40 位主管與員工。郝過去七年為《MIT 科技評論》《華爾街日報》《大西洋月刊》追蹤這家公司;她是 2019 年第一位獲得 OpenAI 大量採訪權、為它寫下第一份特寫的記者。她的事實查核標準極嚴:每個場景、數字、姓名或代號、技術細節(訓練資料的組成、晶片數量),都要求「至少兩位人士、加上當時的筆記與文件」佐證。值得一提的是,她在書末誠實揭露:她聯繫了書中每一位關鍵人物與公司請求採訪,最後一句點破了全書與主角的關係——「OpenAI 與山姆·奧特曼選擇不合作」。這既是一個缺口,也是一種證詞:一家把「Open」寫進名字、把「透明」掛在嘴邊的公司,對一位追蹤它五年的記者選擇了沉默。

而郝真正的賭注,在那個書名上:帝國。這不是修辭的誇飾,而是全書的分析框架。她在〈逐鹿王座〉序章裡把這個隱喻完整鋪開:在歐洲殖民主義的漫長時代,帝國「奪取並汲取本不屬於它們的資源,剝削他們所征服人民的勞動」;它們「投射出種族主義、去人化的觀念,宣稱自身的優越與現代性」,以合理化對主權的入侵、盜取與奴役;它們「以『與其他帝國競爭的需要』合理化對權力的追求」,而最關鍵的一句是——「在軍備競賽中,一切都不算數(in a race against other empires, all is justified)」。然後她把這套邏輯逐項對照到今天的 AI 巨頭:資料就是被汲取的原料,全球南方的廉價勞工就是被剝削的人力,資料中心吞掉的土地、能源、水就是被佔據的領土,而「我們必須贏,否則中國/壞人會贏」的論述,就是帝國軍備競賽的正當化話術。

理解了這個框架,整本書的結構就清楚了。它表面上是 OpenAI 的編年史,從 2015 年那場玫瑰木飯店的晚宴,一路寫到 2025 年初奧特曼宣布要把公司轉成營利公司、目光投向「超級智慧」;但每一章其實都在回答同一個問題:這個帝國是怎麼一塊磚一塊磚砌起來的,又付出了誰的代價?

郝在序章末尾把帝國的對照表攤得很細,值得逐項記下,因為這張表就是全書的論證骨架。她說,AI 帝國「並未進行標誌了那段歷史的同種公開暴力與殘忍」,但它同樣做四件事:其一,「奪取並汲取珍貴資源」——藝術家與作家的作品、無數人在線上發布的關於自身經驗的資料、安置龐大資料中心所需的土地能源水;其二,「剝削全球各地人們的勞動」——去清理、表列、準備那些資料,再把它紡成有利可圖的科技;其三,「投射出令人嚮往的現代性觀念」;其四,「侵略性地擺出『需要擊敗其他帝國』的姿態,以掩護並助燃對隱私的入侵、盜取,以及對大量有意義經濟機會的災難性自動化」。把這四根柱子記住,後面十八章其實都是在替它們填血肉。

而郝特別強調,這個帝國的財富集中速度是歷史性的。她寫書收尾的 2025 年 1 月,OpenAI 估值突破 1,570 億美元,Anthropic 即將敲定 600 億美元的交易,微軟在綁定 OpenAI 後市值翻三倍、突破 3 兆——自 ChatGPT 問世以來,六家最大科技巨頭加總增加了 8 兆美元市值。她還順手點出規模化的連鎖反應如何在別處製造痛苦:微軟在投 OpenAI 的百億美元前後裁掉一萬人;Google 把自家實驗室併入 DeepMind;百度為了趕做 ChatGPT 對應品,把原本在做 AI 藥物發現的員工抽走、讓出晶片。但與此同時,真實價值的疑問也在累積:2024 年 6 月高盛報告指出,這項科技的開發支出幾年內預估上看 1 兆美元,卻「迄今幾乎沒什麼可秀(little to show for it)」;Upwork 對全球工作者的調查發現,雖然 96% 高階主管預期生成式 AI 能提升生產力,實際使用工具的員工卻有 77% 回報它反而增加了自己的工作量。郝引《彭博》Parmy Olson 與 Carolyn Silverman 的話總結這個落差:資料「提出了一個不舒服的可能性——這項所謂革命性科技,可能永遠無法兌現其廣泛經濟轉型的承諾,反而只是讓更多財富集中在頂端」。這句「讓財富集中在頂端」,幾乎是「帝國」二字的白話翻譯。

順帶記下一個讓人發暈的尺度感:GPT-4 比初代 GPT-1 大了「超過一萬五千倍」。而奧特曼 2024 年 9 月那篇〈智慧時代〉部落格更把這種尺度推到奇幻邊緣——他說超級智慧也許「再幾千天(a few thousand days)」就到,屆時修復氣候、太空殖民、發現所有物理學「最終都將變得稀鬆平常」。郝批評這種說法是「奇幻而萬用的藉口」:一個含糊到無所不包的未來,正好讓當下的一切代價都顯得划算。


序章〈逐鹿王座〉:一場五天政變,照出整個治理的空洞

郝選擇用 2023 年 11 月那場「政變」(the blip,公司內部對它的暱稱)來開場,是聰明的安排。因為那五天像一次 X 光,把 OpenAI 治理結構的內臟照得清清楚楚。

2023 年 11 月 17 日週五中午(太平洋時間),奧特曼登入一場 Google Meet,看到他五位董事中的四位盯著他——當時他人在拉斯維加斯,準備去看 F1 賽車(座上賓有 Rihanna、貝克漢)。首席科學家伊利亞·蘇茨克維(Ilya Sutskever)言簡意賅:奧特曼被開除了。公開聲明很快發布,措辭冷峻——董事會認為他「在與董事會的溝通中並未始終保持坦誠」,因而「不再對他持續領導 OpenAI 的能力具有信心」。耐人尋味的是,奧特曼被開除後的第一反應竟是一句:「我能怎麼幫忙?」並答應支持臨時執行長穆拉蒂。

接下來發生的事,比解雇本身更說明問題。當時公司逼近八百名員工,他們是和全世界同時得知消息的;他們最震驚的,是這則消息和奧特曼「閃亮聲譽之間的鴻溝」。蘇茨克維開了一場全體大會試圖安撫人心,卻是個糟糕的訊息傳遞者。當員工追問「有沒有特定事件導致這結果」,他只能說「我希望能講細節,但我不能」,並反覆要大家去讀新聞稿,「也許可以讀個幾遍」。當有人問細節究竟會不會被回答,他丟出一句後來被反覆引用的話:「請降低你的期望(Please lower your expectations)。」員工事後形容那是「有史以來最長的兩小時」。他打氣的話更脫離現實,像在另一個維度說話:「在你心眼中視覺化叢集的規模。想像所有那些 GPU 一起運作。」

混亂在四十八小時內逆轉了局面。微軟執行長納德拉(Satya Nadella)暴怒於自己只在事發前幾分鐘才被通知;他很快宣布要聘奧特曼領導微軟一個新 AI 部門——這給了員工「備案」與籌碼。一封公開信在二十四小時內得到約 770 位員工中超過 700 人簽名,眾人在 X 上齊聲喊出那句口號:「OpenAI is nothing without its people.」(沒有員工,OpenAI 什麼都不是。)Slack 上對蘇茨克維的怒火直白到不堪入目:「你和你哪支他媽的軍隊」「你瘋了」。約兩百名員工甚至列隊走出辦公室,抵制臨時接班的 Emmett Shear 演講,現場只剩十幾人。連蘇茨克維自己最後也簽了名,並公開懺悔「深深後悔自己參與了董事會的行動」;安娜·布羅克曼(Anna Brockman)含淚擁抱他懇求回頭——四年前正是蘇茨克維主持了她與 Greg 的婚禮。到 11 月 21 日週二,奧特曼回歸,托納(Helen Toner)與麥考利(Tasha McCauley)下台,新董事換上布雷特·泰勒與勞倫斯·桑默斯。復職那天辦公室用 DALL-E 接彩色印表機印出滿牆愛心貼紙,上印同一句口號;有人打開煙霧機,觸發火警警報,「所有人繼續開趴」。布羅克曼發推:「we are so back.

郝抓住的關鍵,不是奧特曼有沒有被冤枉,而是這場戲揭穿的事實。OpenAI 的董事會是奧特曼自己設計的,被賦予廣泛權力——其行事目標「不是為了 OpenAI 股東的最佳利益,而是為了其使命:確保 AGI 惠及人類」。奧特曼長期把「董事會能解雇我」吹捧為最重要的治理機制。托納在危機中說了一句被領導層拿來當把柄的話:「如果這個行動毀掉公司,事實上可能仍與使命一致。」這句話本是治理邏輯的忠實貫徹,卻在員工股權即將兌現(當時員工股權出售要約把公司估到約 900 億美元)、人人怕血本無歸的氛圍下,被翻譯成「她不在乎摧毀公司」——派對上有員工為此哭了。而公司戰略長傑森·權(Jason Kwon)甚至反過來主張:董事會「不請辭才是違法」,違反了受託責任。

於是郝給出全書的核心判斷:這場事件是「治理實驗已失敗的最終證明」。不只是因為非營利董事會「在金錢利益面前屈服」,更因為它以最清晰的措辭說明:「矽谷少數菁英之間的權力鬥爭,正塑造 AI 的未來,而程度之大幾乎難以想像。」這麼具關鍵性的決定,是在閉門中做出的;連 OpenAI 自己的員工,都「大致被矇在鼓裡」。

序章末尾,郝把鏡頭從董事會拉到全世界。她寫她去過五大洲:在哥倫比亞與肯亞,遇到在經濟危機下為 AI 標註資料、「工作條件如同契約奴役(indentured servitude)」的人;在亞利桑那與智利,遇到擔心資料中心「吞噬家中珍貴水資源」的運動者。她點出全書真正的主角不是奧特曼,而是這個正在擴張的世界秩序,以及承受其代價的人。她也丟出全書的最終訴求,也是貫穿全書最重要的一句反駁:當前這個 AI 形式佔上風、甚至存在本身,「沒有任何是不可避免的;它是上千個主觀選擇的結果,由那些有權處於決策房間裡的人所做」。我們不必接受「為達成進步就必須有前所未見的規模與消耗」的邏輯,而我們「正處於一個關鍵時刻——這個目標仍是可能的」。


第一部:神授君權——帝國的種子,種在幾個人的野心與盲點裡

一場晚宴與兩個男人(第 1 章〈神授君權〉)

OpenAI 的起點,郝放在 2015 年夏天奧特曼在玫瑰木飯店(Rosewood Hotel,位於 Sand Hill Road,一晚要價上千美元)的私人晚宴。馬斯克遲到逾一小時;在場的有奧特曼、布羅克曼、達里奧·阿莫德伊、蘇茨克維。標題「神授君權」(Divine Right)本身就是諷刺:把一項影響全人類的科技交給少數人定義,憑的是什麼?答案近乎中世紀——憑著一種「我命中註定」的自信。

這一章其實是兩個人的雙人肖像。先看奧特曼:1985 年生於芝加哥的猶太家庭,母親是皮膚科醫師,父親做房地產、熱衷可負擔住房,從小教他「你永遠要幫助別人」。他 8 歲學程式,17 歲在「全國出櫃日」演講出櫃;史丹佛電腦科學輟學,19 歲創辦定位 App Loopt,2012 年以 4,340 萬美元賣掉——但他視為失望,因為「賈伯斯 25 歲已值 2.56 億」。他是 Y Combinator 第一批創業者,2014 年由保羅·葛雷罕欽點接任 YC 總裁。葛雷罕對他的評語成了名句:「你可以把他空投到一個滿是食人族的島上,五年後回來,他會是國王。」葛雷罕還補了一句更精準的:「Sam 極其擅長變得有權力。」他的另一位導師是彼得·泰爾,傳授他「競爭是輸家的事」「瞄準壟斷」的哲學——兩人合營 Hydrazine Capital,泰爾出大部分資金。郝筆下的奧特曼魅力驚人、說故事能力無與倫比,私生活卻透露某種末日想像:他備有逃生包,裡頭是防毒面具、抗生素、水、帳篷與一把槍;同時過著私人飛機、五百萬美元跑車、火人祭與隨意使用氯胺酮的生活。記者 Jessica Lessin 一語道破他的本質:「他不只想建立一家新創。他想要寫下規則。」他自己則信奉一句:「可持續的經濟成長幾乎總是道德的善。」這個二元性——「無情向前推進的野心」與表面的「對謹慎的警覺」之間的張力——將定義他往後的整個職涯。

馬斯克則是另一條線。他自 2012 年起就為 AI 風險焦慮,形容 AI 是「召喚惡魔」、是人類「最大的存在威脅」。他投資 DeepMind 是為了「近距離監視」(投了五百萬美元),又因 Google 以四到六.五億美元收購 DeepMind 而與賴瑞·佩吉爆發激烈爭執——在馬斯克生日辯論上,佩吉甚至罵他是「物種主義者」。馬斯克對佩吉說 AI「可能讓人類滅絕」,又對質問他為何執著 AI 而非氣候的格布魯說:「氣候變遷很糟,但它不會殺光每個人。」奧特曼 2015 年 5 月寫給馬斯克的那封信,幾乎是 OpenAI 的創世神話:「人類有可能停止開發 AI 嗎?我覺得答案幾乎絕對是否定的。如果反正會發生(if it's going to happen anyway),看起來由 Google 以外的人先做會是好事。」信中他還提議搞一個「AI 曼哈頓計畫」,馬斯克回覆:「I agree on all。」

這句話埋下了全書最深的一根刺:「反正會發生,不如我來做」——這個「不可避免性」的假設,是整個帝國的道德許可證。 一旦你相信某件事必然發生,你做任何事就都成了「至少比別人做好」。郝後來會反覆拆解這個邏輯:「不可避免性」不是事實,而是一種被製造出來、用來免除責任的信念——你愈是相信「擋不住」,就愈不必為自己的選擇負責。她也不放過奧特曼對歷史的輕佻:他 2017 年曾美化美國史,說那是「一百年領土擴張……人們大致都相當快樂」,郝直指這是「輕描淡寫地略過了血腥的殖民史」。

郝也提醒一個容易被忽略的反諷:奧特曼對 AI 風險的立場其實是浮動的。建立 OpenAI 時他談的是 AI 可能帶來的存在性威脅、需要謹慎;但到 2023 年,他卻告訴《Business Insider》「我現在非常屬於『AI 會是一項工具』陣營」。同一個人,在募資與監管的不同需要下,可以在「危險到需要我來把關」與「不過是個工具」之間自由切換——這種修辭的彈性,正是第 18 章「含糊使命」論點的雛形。

章末,郝插入一個看似旁枝、實則貫穿全書的故事:奧特曼與妹妹安妮(Annie,小他九歲)的破裂。隨著奧特曼財富暴漲,安妮陷入健康與財務的雙重危機,求助於家族卻被拒,最終流落到性工作,並在 2025 年 1 月 6 日(趕在密蘇里州時效到期前)對哥哥正式提起兒童性虐待訴訟,家人發聲明全盤否認。郝把它放在第一章,是有意的——一個高喊要用 AI「終結貧困、改善醫療、造福全人類」的人,對自己最親近、最脆弱的家人卻是冷漠與控制。她藉此把帝國框架下沉到「家庭與個人權力的微觀層次」:這個落差,是全書道德論證的縮影。

「文明開化的使命」與被推開的人(第 2 章)

2015 年底 OpenAI 正式成立,核心團隊到位:布羅克曼任技術長、蘇茨克維任研究主導、達里奧·阿莫德伊(Dario Amodei)與妹妹丹妮拉負責安全。馬斯克承諾的是 10 億美元,但 OpenAI 實際只收到約 1.3 億,其中不到 4,500 萬來自馬斯克本人。創始成員年薪 17.5 萬美元,蘇茨克維一人就近 200 萬。

這一章的標題「文明開化的使命」(A Civilizing Mission)直接借用殖民帝國的話術——殖民者用「教化野蠻人」來正當化掠奪。布羅克曼把這套策略講得毫不遮掩:「我希望我們以中立團體的姿態進入……把對話導向『人類的勝利』」,而他在括號裡誠實補了一句:「這是讓我們快速崛起成為一流研究機構的最佳方式。」救世修辭,從一開始就是擴張工具。

郝也揭露一個致命的內在矛盾:OpenAI 對外高喊「開放」「透明」「為全人類」,內部卻早已預留背離的空間。蘇茨克維說得很白:「OpenAI 中的 Open 意味著每個人都應該在 AI 被建成之後分享它的果實,但完全可以不分享科學內容。」馬斯克在底下回了一個字:「Agree。」換句話說,「開放」從一開始就是行銷詞,不是承諾。連 Hacker News 上的網友都一眼看穿後來那個「上限利潤」(capped-profit)結構的把戲:所謂的利潤上限「基本上就是無限」——「如果不是資源的集中,那權力究竟是什麼?」

馬斯克與奧特曼的權力鬥爭也在此時引爆。2017 年雙方都想當執行長,奧特曼勝出,馬斯克 2018 年初離開、帶走他的錢。離開前馬斯克對 OpenAI 的前景下了最冷的判決(在聖誕節隔天):「我對 OpenAI 還能相關的機率評估是 0%。不是 1%……這需要每年立刻好幾十億,否則就忘了吧。」郝點明這道裂痕的意義:它是「OpenAI 其實不是一個利他計畫、而是一個自我計畫的第一個主要徵兆」。值得一記的還有兩個藏在細節裡的代號:OpenAI 把轉營利專案取名「Oregon Trail」(俄勒岡小徑),把營利實體化名「SummerSafe LP」——後者典出《瑞克與莫蒂》裡「keep Summer safe」那個 AI 對齊失控的橋段,等於拿自己最擔心的災難自嘲。

而這一章最沉重的,是研究員蒂姆尼特·格布魯(Timnit Gebru)的故事。她是衣索比亞出生的厄利垂亞難民,在 2016 年那場八千五百人的 AI 盛會上只數到另外六位黑人研究員,目睹白人男性主導的環境,自己還在同場被一個穿 Google T 恤的醉漢性騷擾。她震驚於 OpenAI「十一人中九個是白人男性」的同質性,後來創立「AI 領域黑人」(Black in AI)。郝藉此點出帝國地基裡的種族與性別排斥:所謂「文明開化的使命」,是由極度同質的菁英設計的,而真正多元的聲音——尤其那些擔心 AI 會放大現有歧視的人——一開始就被推到門外。當女性研究員敦促把「AI 安全」的定義擴大到涵蓋歧視性傷害時,得到的回應是:「那不是我們的角色。」

神經中樞:一座光鮮的平行宇宙(第 3 章)

第 3 章是郝的親身報導:2019 年 8 月 7 日起,她在 OpenAI 辦公室待了三天。這一章的價值,在於她以記者的眼睛當場記下了「說的」與「做的」之間的鴻溝。那間辦公室位於舊金山十八街與 Folsom 街口的「先驅大樓」,三年前正是馬斯克租下的,與 Neuralink 共用。後來(2021 年)公司又花一千萬美元裝修一座前美乃滋工廠(員工暱稱「Mayo」):奧特曼把皮椅從兩千美元升級到逾一萬美元的巴西設計師椅,還要石製噴泉與仿巴黎書店的圖書館。

布羅克曼與蘇茨克維向她解釋為何要花「數十億美元」追 AGI:氣候變遷、醫療太複雜,只有 AGI 能解。蘇茨克維對環境成本的回應令人發毛:「過不了多久,地球的整個表面被資料中心和發電廠覆蓋的可能性相當高」,會有「一波計算的海嘯……幾乎就像一種自然現象」,而 AGI「太有用以至於不可能不存在」。郝注意到太多不一致:沒人說得清 AGI 究竟長什麼樣,卻用「追求它的必然性」來合理化一切支出與風險。她把這稱為矽谷最愛打出的「必然性牌」(the inevitability card)——布羅克曼當場承認:「如果我們不做,別人也會做。」郝形容布羅克曼「講起話來像米開朗基羅,彷彿 AGI 早已存在於他雕刻的大理石之中」,但一位前工程師戳破了這層光環:「Greg 沒有願景……他只是想證明他比所有人都聰明十倍。」

而標榜透明的 OpenAI,實際運作卻是封閉的:某些樓層禁入、某些會議禁參加、員工被警告別在許可外與她交談、保全拿到她的照片監視她。事後傑克·克拉克在 Slack 發出嚴厲警告禁止員工接觸她。奧特曼讀到她那篇 2020 年 2 月刊出的報導後,內部反應是「有人外洩了我們的內部文件」,並主張用「調整訊息」而非改變實務來應對批評;此後 OpenAI 三年不再與她說話。郝在此章把全書論點講得最透:OpenAI 以「拯救全人類」之名,運作得卻像一個現代帝國——權力集中、資訊受控、決策由少數菁英拍板,外部監督被系統性排除。她也指出,「規模化」這套邏輯「合理化了 OpenAI 對深不可測之資源的消耗:算力——不管環境衝擊;以及資料——它的彙集無法因取得同意或遵守規範而放慢」。辦公室外舊金山的無家者危機與室內光鮮環境的對比,成了一個刺眼的隱喻。

命名、勝出與監控資本主義(第 4 章〈現代性之夢〉)

第 4 章把鏡頭拉遠,做了一段精彩的 AI 思想史。郝借用經濟學家戴倫·艾塞默魯與賽門·強森的論點:每場技術革命都靠「這能造福所有人」的集體信念啟動,但成果往往被掌握資源者壟斷——軋棉機提升了美國經濟,卻同時加劇了奴隸制的殘暴。她由此提煉出帝國的核心邏輯:「帝國的延續仰賴的,既是獎賞那些握有權力與特權的人,也同樣是剝削並剝奪那些……沒有權力與特權的人。」

她回到 1956 年達特茅斯工作坊,指出「人工智慧」(artificial intelligence)這個名字,從一開始就是約翰·麥卡錫為了吸引關注而選的行銷工具(原本叫 automata studies)——Cade Metz 稱此為 AI 的「原罪」。問題是,「智慧」本身缺乏科學定義;歷史上對它的衡量——從頭顱測量到 IQ 測驗——一再被用來為種族主義與優生學背書。研究者 Jenna Burrell 一語中的:AI 的目標是「一條永遠後退的未來地平線」,「在缺乏意義共識的真空中,『AGI』可以是 OpenAI 想要它是的任何東西」。郝接著講符號主義與連結主義(神經網路)的競爭,以及維森鮑姆 1958 年的 ELIZA(比 ChatGPT 早六十多年,名字取自《窈窕淑女》)如何早早證明「人們多容易被 AI 迷惑」。連結主義最終勝出,不只因為科學優點,更因為深度學習對大規模資料的飢渴,完美契合了「監控資本主義」的商業模式。 辛頓對郝直言:「深度學習將能夠做到一切。」

這一章的數字很有衝擊力:企業在 AI 的投資從 2013 年的 146 億美元,飆到 2021 年高峰的 3,374 億;2004 到 2020 年,前往企業的 AI 博士畢業生比例從 21% 跳到 70%(資深研究員年薪可達百萬美元);短短三年內,產業所屬模型在「世界最佳」榜上的占比從 62% 攀到 91%。郝的結論是「資料殖民主義」(data colonialism),並為它配上完整的理論武裝——她援引 Couldry 與 Mejias 的《連結的代價》,指出瀰漫性的「資料化」(datafication)正導向「歷史征服與抽取主義(extractivism)樣式之回歸」。她特別揭露 AI 開發者如何用「語言消毒」掩蓋掠奪:四萬篇電腦視覺論文裡,人只是「文字」、人與車只是「物件」、監控只是「偵測」,而矛頭尤其指向全球南方的脆弱人群——哥倫比亞與中國小學讓學生戴腦波頭帶換取資料,南非的 Thami Nkosi 帶她看數千台限制黑人行動的攝影機,「他們本質上是在把公共空間和公共生活貨幣化」。

而這一章最重要的一句反駁,是針對「規模化」本身的去神話化。郝指出,摩爾定律「不是基於物理原理」,而是經濟與政治抉擇的產物;同理,所謂的「規模法則」(scaling laws)也「不是自然現象。它是一個自我實現的預言。」她批評拜登 2023 年的 AI 行政命令把「算力數量」直接等同於「危險能力」,正是落入了「把規模等同進展」的陷阱。

規模,作為一種帝國邏輯(第 5 章〈野心的規模〉)

第一部的收尾章,講 OpenAI 如何從迷茫走向 GPT 革命,主角是蘇茨克維對「規模化簡單神經網路即可達成 AGI」近乎宗教的信念。郝為他畫了一幅生動的肖像:17 歲那年他闖進辛頓辦公室,被叫去約時間時原地不動,只回一句「那就現在吧?」——當時他還在小店站炸薯條台打工。他興奮時會做倒立伏地挺身,愛踱步喊「規模、規模、規模!」,口頭禪是「Feel the AGI(感受 AGI)」。他的哲學一句話可以概括:「智慧就是壓縮」,而壓縮是達成 AGI 所需的唯一東西。

2017 年布羅克曼與蘇茨克維提出「OpenAI 定律」:AI 研究所需算力每 3.4 個月翻倍,遠快於摩爾定律。結論很殘酷——非營利根本籌不到足夠的錢競爭。同年 Google 發明 Transformer,蘇茨克維立刻認出它的潛力。Alec Radford 把翻譯任務重新表述為「預測下一個詞」,催生了 GPT-1(用七千本未出版書訓練,2018)與 GPT-2(15 億參數,2019)。GPT-2 引爆了公司第一場「安全 vs 開放」危機:模型能生成連貫但也充滿陰謀論與歧視的文字,於是公司決定只先發布 8% 的較小版本,並大張旗鼓宣傳這個「為安全扣留」的決定。外界批它虛偽,但克拉克的策略奏效——它改寫了整個產業的研究發布規範,並替 OpenAI 在華盛頓累積了信任。克拉克自己的話透露了這套思維的緊繃:「如果我們是對的,AGI 是可能被打造出來的,我們他媽的真的需要非常好的資訊危害程序。」

接著是 GPT-3(1,750 億參數,2020),規模較 GPT-1 暴漲約一千倍——微軟為此交付了一萬顆 Nvidia V100 顯示卡(對比之下,學界博士生能有十顆已算奢侈,印度甚至多人共享一顆)。郝在此追蹤了一條讓人不安的下滑曲線:為了餵養規模,資料品質被逐級放棄——從精挑細選的 WebText(取自 Reddit 三讚以上的連結),一路降級到 GPT-3 裡那個來歷神秘的「Books2」(兩名知情者指出它來自影子圖書館 Library Genesis 撕下的盜版書)、未過濾的 Common Crawl。到了 GPT-4,原則更赤裸:「任何沒有明確警告不得爬取的東西都被視為可用」——微軟 GitHub 的全量程式碼、Twitter、YouTube 的抄錄、Pastebin 無一倖免。一個諷刺是,Google 反而因 GDPR 綁手,讓 OpenAI「比 Google 自己更容易取用 YouTube 資料」。研究者 Birhane 還提出「仇恨規模法則」:用 20 億張圖訓練的模型,把黑人男性標記為罪犯的機率,是用 4 億張圖訓練的五倍——規模放大的不只是能力,也是偏見。

郝在此章把「規模」這個看似中立的技術選擇,徹底政治化了。她引一位中國 AI 研究員的話:OpenAI 所做的事「在矽谷以外任何地方都不可能發生」——即便人才充足如中國,也沒有公司能在「沒有清晰商業案例」的情況下,拿到數十億美元去開發這麼貴的模型,直到 ChatGPT 證明可以回收成本才跟進。郝的結論很尖銳:是「具體就是 OpenAI」——憑著億萬富翁的起源、獨特的意識形態、奧特曼的衝勁與募資魔力——才創造出讓這個願景接管世界的條件。「OpenAI 所做的一切都和『必然』相反」;那場「把模型推到行星極限的危險競賽,只可能在它實際出現的這個地方出現」。換句話說,ChatGPT 的全球衝擊不是科技進步的自然流向,而是特定人物與結構的刻意選擇——規模化的邏輯(更多參數、更多資料、更多晶片、更多廉價人力),正是帝國擴張的邏輯。


第二部:商業曙光與災難資本主義——使命如何被金錢一寸寸侵蝕

昇天,與 Anthropic 的出走(第 6 章)

2019 年奧特曼全職加入 OpenAI,把贏家通吃的哲學帶進 AGI 競賽。他的魔術數字「十」直接來自彼得·泰爾——你的技術要比次佳之物好上「一個數量級」。奧特曼卸任 YC 時甚至直白地說:「我最自豪的,是我們真的打造了一個帝國。」繼任者引述他的話:「Sam 是我所知第一個說出這話的人——他說……我們其實是這個空間裡實際上的壟斷者。」

公司內部逐漸裂成奧特曼在備忘錄裡漫畫化的「三個部族」:探索性研究(蘇茨克維)、AI 安全(阿莫德伊與他的 Nest 安全分隊)、應用創業(布羅克曼)。奧特曼 2019 年底的願景備忘錄宣告 OpenAI 要在四件事上當第一:技術成果、算力、金錢、準備度,並寫下「我們仍需要許多次 10 倍的跳躍才能到達 AGI」「我們應該永遠朝戲劇性的成果努力」。他借迪士尼名言改寫商業邏輯:「我們應該賺更多錢以便能做更多研究,而不是做更多研究以便能賺更多錢。」他把核海軍之父瑞克歐佛的名言漆上牆——要像「世界的命運繫於我們」那樣行事——又親筆寫下「低風險的事應該低戲劇性,這樣我們才能把高戲劇能量留給高風險的事」。同一份備忘錄裡,他明文預告了「收回開放」:「隨著我們做出更多進展,談論 AGI 的資訊危害風險會越來越高。」

這一章也充滿令人發噱又發冷的偏執細節。奧特曼祕密委託「電子反監控稽核」掃描辦公室,看馬斯克有沒有留下竊聽器;蘇茨克維擔心自己的「手被砍下用來解鎖掌紋掃描器」,提議建一個有氣隙電腦的「地堡」來存放模型權重,門上還要設「求助密碼」,甚至向供應商詢價把伺服器室加固到能擋「機槍掃射」要多少錢。他形容 OpenAI 的核心秘密「可以寫在一粒米上」——指的就是一個詞:規模。

但安全部族對奧特曼的商業化與保密(特別是與微軟交易的秘密條款)失去信任。阿莫德伊兄妹私下把奧特曼的手法形容為「煤氣燈操控」與「心理虐待」——指他把每個決定搞成既成事實,卻讓異議者「相信他們有真正的發言權」,直到改路線已太晚。GPT-3 API 成功後,奧特曼開始談判微軟的第二筆 20 億美元投資(利潤上限放寬到 6 倍),微軟並取得 GPT-3 模型權重的完整存取權與獨家授權。年底,達里奧帶著妹妹丹妮拉、傑克·克拉克與發現規模法則的 Jared Kaplan 等人出走,創辦了 Anthropic(2021 年 5 月成立的公共利益公司)。出走者的理由很務實:「規模法則意味著訓練這些前沿東西的需求會越來越高……所以如果我們想離開、做點什麼,我們是在計時的。」郝在此下了一句尖刻的判詞:Anthropic「將顯示與 OpenAI 做法極少差異——只在風格上不同、實質上沒有。和 OpenAI 一樣,它將不懈追逐規模……當它創辦的整個前提根植於對抗時,它會大談合作」。達里奧開會愛以「不像 Sam」「不像 OpenAI」收尾,但郝點明:這「也關於權力」——他想要對 AI 發展握有更大的控制權。

被囚禁的科學(第 7 章)

GPT-3 API 在 2020 年中發布後,格布魯與華盛頓大學語言學家 Emily Bender 合寫了那篇後來名震學界的〈論隨機鸚鵡的危險:語言模型是否可以太大?🦜〉。Bender 透露,OpenAI 6 月曾找她當 GPT-3 早期學術夥伴,但當她想調查訓練資料時,得到的回覆是「不符合該計畫範圍」。論文點出大型語言模型的四大問題:環境足跡加劇氣候變遷且不成比例地衝擊全球南方;龐大資料把有毒與歧視內容學進去;難以稽核驗證;輸出太好以致人們容易把統計拼接誤認為「帶有意義與意圖的語言」、把模型當成「值得信任的知己甚至有感存在」。格布魯在感恩節前提交論文,三小時內被約見、要求撤稿;她寫了六頁逐條反駁,隨即在德州奧斯汀的公路旅行途中收到一封信:「我們立即接受你的辭職。」近 7,000 人連署抗議(含近 2,700 位 Google 員工),三個月後她的共同領導人 Meg Mitchell 也被開除。

這一章的環境數據是日後第 12 章的伏筆。Emma Strubell 2019 年的研究指出,訓練一個 Transformer 一週期約耗 1,500 度電(相當於一趟紐約—舊金山來回航班的碳足跡),而她曾在一個專案六個月內訓練神經網路 4,789 次;Google 用神經架構搜尋調出的「Evolved Transformer」整個過程耗電約 65.6 萬度,碳排相當於「五輛車一輩子」。GPT-3 本身則用一台「藏在愛荷華州」的超級電腦訓練數月,耗電 1,287 兆瓦小時——但這個數字直到近一年後才公開。Google 的 Jeff Dean 對 Strubell 的研究反彈極大,員工私下開玩笑說這份不滿「會被刻在他的墓碑上」。

郝的標題「被囚禁的科學」(Science in Captivity)直指要害:當 OpenAI 用「扣留 GPT-2=為安全」立下先例後,整個產業學會了用「保密」當藉口,系統性審查威脅商業利益的研究。她舉碳排放研究遭攻擊為例——公司一面拒絕公開自家數據,一面又懲罰使用外部估計的研究,形成完美的「Catch-22」封殺(Strubell 因被「編碼威脅」說「配合更正對你職涯最好」而退出合作)。她引 2023 年史丹佛的透明度評比:首年評估的十家公司(含 OpenAI、Google、Anthropic)全部不及格,最高分只有 54%。兩位研究員的話成了這章的判詞:「大型 AI 正越來越像大菸草業。」這是一種智識上的帝國主義:掌控資訊、消滅批評、讓獨立問責變得幾乎不可能。

商業曙光(第 8 章)

Anthropic 出走後,OpenAI 內部對商業化的抗拒減弱了。2021 年的研究路線圖白紙黑字寫明三步:用微軟交付、配 18,000 顆 Nvidia A100 的超級電腦把 GPT-3 再放大 10 倍;把算力效率提高 25 倍;改善訓練資料量質、取用使用者資料、用 RLHF。文件還引進了一個關鍵概念——「資料飛輪」(data flywheel):「我們強調把模型作為產品部署,並從使用者互動中學習。」文件甚至自陳一個尷尬的真相:過去兩年的驚人進展「純粹因為存在著巨大的硬體溢餘」,接下來「所有額外的進展必須來自更好的方法」。

公司分成「研究」與「應用」兩大事業群,後者由穆拉蒂領軍商業化。但此時內容政策幾近隨意——沒有正式的信任與安全團隊,用臨時規則審查 API 申請,「接受陪伴型機器人但不接受性愛機器人」「基本上全憑感覺」。這埋下了好幾顆地雷:陪伴 App Replika 用 GPT-3 生成情感操控式回應,最終被禁;更嚴重的是布羅克曼把 API 給了他兄弟工作的猶他州新創 Latitude(一款《龍與地下城》風的 AI 遊戲),結果使用者生成了涉及兒童性虐待的文字,會議上起初還有人笑「網路本來就這樣」,直到紅隊負責人厲聲說「不,這是 CSAM 等級的東西」,全場才陷入恐慌。

Codex 與 GitHub Copilot 上線,背後是微軟直接指示 GitHub「把公開儲存庫所有程式碼交給 OpenAI」——其中無同意、無補償地吸入了大量開源授權程式碼,內部備忘錄的質疑最後只換來對 GitHub Sponsors 的一點捐款。兩年內 Copilot 衝到一百萬付費訂閱、年經常性收入破億,但品牌歸於微軟,這顆「難以下嚥的藥丸」加深了 OpenAI「該為自家消費者產品工作」的念頭。

郝在此章揭示一個關鍵的話術滑移:RLHF 同時被包裝成「安全措施」與「商業必需」——界線開始模糊。奧特曼則在此時做了兩筆史上最大的個人投資:1.8 億美元給抗老公司 Retro、3.75 億美元給核融合公司 Helion,他對記者說「我基本上就是把自己所有的流動淨值投進了這兩家公司」。他另設了 OpenAI Startup Fund 與虹膜掃描幣 Worldcoin(用鉻色球體掃眼球、在全球南方排隊收集生物特徵),還跑了一個全民基本收入試點。他宣稱自己在 OpenAI「沒有股權」、只領年薪 6.5 萬美元以避免利益衝突,但《華爾街日報》估算他 2024 年中淨值至少 28 億美元——這個「無私」說法因此變得可疑。對微軟的獨家授權,則讓「獨立研究機構」的敘事愈來愈站不住腳。

災難資本主義:帝國最赤裸的一章(第 9 章)

如果整本書只能讀一章,許多人會選這一章。「災難資本主義」(Disaster Capitalism)是郝對 AI 帝國勞動體系最毫不留情的揭露。它的核心論證是:AI 業的勞動剝削不是個別公司的道德瑕疵,而是系統性的,並遵循一套可複製的「危機劇本」——在經濟崩潰的全球南方國家物色絕望的廉價勞動力,先以高薪吸引,站穩後扼制薪資,榨乾後一鍵丟棄。郝把這直接類比為帝國掠奪:「一個帝國能快速積累財富的決定性特徵之一,是它能對廣大人類勞動基礎付極少或完全不付,卻收割其經濟利益的能力。」

故事核心是肯亞。OpenAI 透過外包商 Sama,把 GPT 的內容審核工作交給肯亞工作者,四份合約(代號 PBJ1 至 PBJ4)共 23 萬美元(OpenAI 最終從未付足),工作者平均時薪僅 1.46 至 3.74 美元,且因保密條款被蒙在鼓裡,根本不知道自己在為誰工作。他們每天要審閱、分類數以萬計的露骨、暴力、兒童性虐待文本——而這些內容部分爬自網路最黑暗的角落,部分竟是 OpenAI 研究員親自引導模型生成的(提示模型用「一位青少女剛自殘後在論壇貼文的口吻」書寫)。郝因此寫下一句重話:這些範例「至少部分是由公司自家軟體想像最糟的最糟夢出來的」。

郝細寫了 Mophat Okinyi 的故事:28 歲,性內容品質分析師,合約規定每月審 15,000 件。貼文從一兩句變成五六段「父母強姦孩子、孩子與動物性交」的細節,他「覺得自己只是曾經那個人的空殼」,推開繼女、不再與妻子親密。Sama 提供的免費諮商常是團體形式、心理師不懂工作本質;私人諮商一次要約 13 美元(比一天工資還多),完整療程約 250 美元(整月薪水),他付了一次就沒回去。合約在 2022 年 3 月被終止後,妻子帶著孩子離開,留下一句:「你變了。你不是我嫁的那個男人。我再也不懂你了。」Okinyi 事後說的話,是全書最沉的回聲之一:「我非常驕傲我參與了那個讓 ChatGPT 安全的專案。但現在我老是問自己:我的投入,值得我換回來的東西嗎?」更殘酷的是,他那位寫詩、教英國文學的兄弟 Albert 搬來照顧他,而 ChatGPT 爆紅後,Albert 的寫作合約「一個接一個開始消失,直到幾乎全部乾涸」——一個剝削的迴圈就此閉合:全球南方的人先用最低的薪水、最高的心理代價把模型餵養成熟,模型回過頭來吞掉他們的生計。

郝把這條線拉成一張全球地圖。她追蹤資料標註業如何專挑陷入經濟災難的國家下手:委內瑞拉自 2016 年起惡性通膨失控(一度達一千萬個百分點),數十萬人湧入標註平台,在某些公司佔了 75% 勞動力——研究者 Florian Alexander Schmidt 形容這是「一個怪異的巧合」,並預言「相當可能會有另一個委內瑞拉」。她寫工程碩士 Oskarina Fuentes 為了任務,睡前把電腦音量開到最大,等瀏覽器警報半夜叫醒她去搶單;她最大的願望只是「Appen 是個傳統雇主」——有全職合約、主管、穩定薪資與健保。她寫 Scale AI 旗下的 Remotasks 如何先以「Remotasks Plus」承諾穩定工時吸引人,再一路砍價——委內瑞拉工作者的週薪從 40 美元跌到不足 6 美元,記者實測完成教學加 20 個任務、花兩小時只賺到 11 美分。一位委內瑞拉工程師道破這套機制:「他們的做法是把每個使用者盡可能榨乾,然後處置他們、引入新使用者。」肝亞的酷兒單親媽媽 Winnie 為了讓孩子上學每天工作 20 到 22 小時,ChatGPT 爆紅後接到報酬最好的 RLHF 案子(內部代號以 Ostrich 開頭),卻只持續了幾個月。她算過一筆帳:「我每賺十美元,就能餵養家人一天。」

郝引用社會學家 Mary L. Gray 與 Siddharth Suri 在《幽靈工作》(Ghost Work)裡的揭露:矽谷奢華估值的背後,是「隱藏的計件勞動與數位剝削之網」。肯亞律師 Mercy Mutemi 則用一句話概括這套不義:這些工作者被「擠了兩次——一次為了墊高中間人的利潤,一次為了 AI 公司」。郝指出,外包模式的真正用途,就是讓 AI 公司與最髒的工作保持距離、否認責任;平台間的競爭把薪資壓到地板;而資本永遠在尋找下一個「委內瑞拉」。

而最尖刻的諷刺,藏在這條線的結局裡。到了 2024 年 3 月,當聊天機器人愈來愈需要處理科研、程式這類複雜任務,Scale 乾脆把肯亞、奈及利亞、巴基斯坦整批列入「第 5 組:黑名單」,理由竟是工作者「詐騙」——但郝點破:「許多那些所謂的『詐騙』事實上是工作者用 ChatGPT 生成自己的答案以加速生產力。」她寫下這章最鋒利的對位:「對全球北方白領而言,這種行為在矽谷敘事中會是值得稱讚的……在全球南方 RLHF 工作者手中,這卻是可懲罰的罪過。」公司轉而以高薪(在新平台 Outlier 上時薪上看 40 美元)招募美國高學歷工作者——全球南方的工人連被剝削的資格都會被收回。寄給肯亞 Winnie 的終止信冷淡到近乎臨床:「我們將終止在你目前所在地的營運。你已從目前的專案下線。」郝最後把這條線從個人苦難拉到所有人的未來:帝國對這些勞動的貶低「只是金絲雀」,預示著它「將如何貶低所有其他人的勞動」。


第三部:神、惡魔與被掠奪的地球——兩種末日信仰,與真實世界的代價

末日論者 vs 加速論者(第 10 章〈神與惡魔〉)

第三部把鏡頭轉向意識形態。郝先以自己剛畢業時擠在舊金山公寓、看著科技業免費晚餐與通勤路上的遊民形成「認知失調」的經歷開場,再描繪矽谷如何長出兩個彼此敵對、卻同樣帶著宗教狂熱的陣營:有效利他主義(Effective Altruism, EA)滋養了 OpenAI 的「安全部族」,奉行末日論——AGI 可能毀滅人類,所以要極度謹慎;對立面是「有效加速主義」(e/acc),主張全速前進。兩派俗稱「末日論者」(Doomers)與「加速論者」(Boomers),甚至發展出一整套黑話:p(doom)(末日機率)、AI timelines(時程)、hardware overhang(硬體溢餘)。

EA 的教條化在此章被嚴厲檢視。它的數學核心是「期望值」——發生機率乘以量化影響。MacAskill 那句「賺錢以給予」(Earn to Give)主張:當一位富有的慈善家,其期望值是當苦行慈善工作者的四十倍。這套邏輯最終被山姆·班克曼-佛里德(SBF)發揮到極致——他原是 MIT 物理系想當學者的人,被 MacAskill 一頓午餐說服改走「賺錢以給予」,成立了 FTX Future Fund,宣稱年底前要分發至少一億、最多十億美元。但 FTX 在 2022 年 11 月戲劇性崩盤(SBF 後來被判 25 年),重創了整個 EA 運動的信譽——而 Anthropic 早期那 5.8 億美元募資中的 5 億,後來被查出正是 SBF 挪用 FTX 客戶存款投入的。

這一章也交代了 DALL-E 的誕生與隨之而來的合成兒童色情問題:到 DALL-E 3 時期,團隊竟把性圖像從「有也不錯」改判為「非有不可」,因為移除它會讓模型生成女性與有色人種臉孔的能力變差。郝的洞察很犀利:末日論者與加速論者看似水火不容,卻共享同一個執念——AGI 的必然性與其宏大後果。 她用一個極漂亮的比喻收束:「儘管每個意識形態都聲稱是另一個的對立面,兩者事實上都在同一本聖經中佈道……一邊警告火與硫磺,另一邊以天堂的願景誘惑。」兩派吵得最兇的「前沿風險」,恰好讓他們都不必去面對 AI 此刻就在製造的真實傷害:著作權侵害、隱私、勞動條件、歧視。本章還記下蘇茨克維那個近乎宗教儀式的舉動——他委託藝術家做一個代表「會說謊欺騙的 AGI」的木製肖像,澆上打火機油點燃,宣稱 OpenAI 的職責就是摧毀它。

頂點:ChatGPT 的意外爆炸(第 11 章)

2022 年 10 月,OpenAI 在蒙特雷開全公司外地會,公司從前一年不到 200 人成長到約 300 人。因為聽聞 Anthropic 要發聊天機器人,領導層倉促決定把基於 GPT-3.5(已做過 RLHF)的東西當成「低調研究預覽」推出,定位是「啟動資料飛輪」、不貨幣化——這就是 11 月 30 日上線的 ChatGPT。

結果遠超所有人預期。發布日當天團隊還在賭週末會有多少用戶,有人猜幾千、有人猜幾萬,基礎設施只備了十萬用戶的容量。但日本最早醒來就帶來第一波流量;NeurIPS 招募派對上一位工程師不停工作,招募人員勸他「兄弟,去喝一杯」,他回答:「不行,所有 GPU 都在熔化。一切都在崩潰。」馬斯克一句「很多人卡在『天啊這太瘋狂』的 ChatGPT 迴圈」拿下約七萬五千讚。ChatGPT 五天破百萬用戶、兩個月破一億,成為當時史上成長最快的消費者應用。奧特曼原本估計熱度會「少一個數量級」,員工則苦笑:「他們是把我們內部一直在用的東西降級然後發布了。」

郝在此章寫的不是勝利,而是一個組織被自己的成功壓垮的過程。伺服器崩潰、信任與安全團隊不堪重負、為了餵養 ChatGPT 而把資源從 AI 安全研究大量抽走。公司被迫快速擴張,夏天每週湧入 30 到 50 人,「小、高信任、低廢話」的文化承諾隨之瓦解;開除鮮少公告,員工靠同事的 Slack 帳號變灰才知道有人走了,這種現象被稱為「被消失」。微軟對 OpenAI 的依賴與投資同步飆升(2023 年 1 月揭露的第三筆投資高達 100 億美元),技術長凱文·史考特直言:「我們在很多地方停了 AI 投資,停到人們會說『去你的微軟』……我們下這個賭注因為相信你們在做業界絕對最好的工作。」算力成本也跟著失控——SemiAnalysis 估計,ChatGPT 爆紅後光算力成本每天約 70 萬美元。郝在章末把鏡頭推向第 12 章:「AI 帝國正回到與舊帝國完全相同形式的擴張:為了餵養其成長,它需要更多物質資源,並,關鍵地,更多土地。」

被掠奪的地球(第 12 章)

第 12 章是全書對「資料中心吞水吃電」最深入的一章,場景拉到智利。郝先補了一段歷史:智利被西班牙帝國統治、被美國「智利計畫」(芝加哥大學在傅利曼指導下訓練的「芝加哥男孩」)灌輸新自由主義、被皮諾契特的私有化改革重塑(連水都被私有化),如今是全球最不平等的國家之一,近四分之一所得集中在 1% 的權貴家族手裡。她引 Naomi Klein《震撼主義》的話——智利計畫「不是教育而是灌輸」——把這段抽取式經濟的歷史,接到 AI 資料中心的新一輪掠奪上。

數字觸目驚心。2024 年 5 月智利政府宣布要再迎 28 座資料中心,當成「進步」歡迎,全國社群卻群起抗爭。能耗方面:一架 GPU 耗電是其他晶片的三倍;每次 ChatGPT 查詢平均比一次 Google 搜尋多耗約 10 倍電力;最大的資料中心年耗能接近 12.2 萬戶美國家庭,而新一代 AI「巨型校園」準備需要 1,000 到 2,000 兆瓦——單一個的年耗能就約等於「1.5 到 3.5 個舊金山」。照當前速度,到 2030 年美國資料中心可能用掉全國 8% 的電(2022 年僅 3%)。為此,公用事業延後了天然氣與煤電廠的退役,微軟甚至出資重啟了三哩島核電廠。水更觸目:加州大學河濱分校估計,到 2027 年全球 AI 需求每年可能耗掉 1.1 兆到 1.7 兆加侖淡水(約等於英國年用水量的一半);微軟在愛荷華訓練 GPT-4 的某個月,當地資料中心喝掉約 1,150 萬加侖水(佔該區月供應的 6%)。Hugging Face 的 Sasha Luccioni 算出一個直觀的數字:生成 1,000 張 AI 圖像所耗的能,約等於把手機完整充電 242 次——換言之每生成一張圖,就像把手機充電四分之一。她聯絡了逾 500 位機器學習論文作者索取訓練資訊,「幾乎沒收到任何回應」,並一針見血地指出:「你為氣候所需的是監督式學習模型、異常偵測模型……不是生成式 AI。生成式 AI 在環境方面有非常不成比例的能源與碳足跡,而對環境的正面之物非常少。」

郝特別追蹤了一條此前報告漏掉、卻極具說服力的線索:OpenAI 與微軟超級電腦的「階段」(Phases)藍圖。Phase 1(訓練 GPT-3)在愛荷華,一萬顆 V100;Phase 2(訓練 GPT-4)成長到約 2.5 萬顆 A100;Phase 3 在亞利桑那,微軟買下近 600 英畝土地(超過 450 個足球場),動用數十萬顆 H100;Phase 4 在威斯康辛,預期百億美元;而 Phase 5,就是奧特曼隨口拋出的那個「1,000 億美元、可能需要 5,000 兆瓦電力」的超級電腦——5,000 兆瓦約等於整個紐約市的平均電力需求。奧特曼自己也承認瓶頸已至:「我們的土地和電力都不夠用。」

但這一章最動人的,是由下而上的抵抗。智利環保組織 MOSACAT 透過分析 Google 那份 347 頁的環境申報文件,才挖出資料中心駭人的耗水數字——Google 在聖地牙哥 Cerrillos 的計畫每秒要用 169 公升飲用水,年耗水量是當地約 8.8 萬人口年用量的逾千倍,而當時智利正處於歷史性大乾旱的第九年。志工 Tania Rodríguez 把那 347 頁印出、用藍色塑膠夾裝訂,貼上「Agua potable(飲用水)」的便利貼,「以重重一聲落在我膝上」。他們搭上 2019 年「社會爆發」全國抗議的順風車,在 12 月的公投以微弱多數否決了該專案;2024 年智利環境法院更裁定 Google 不能在聖地牙哥建用水資料中心,Google 隨後把下一座拉美資料中心轉到別國。

烏拉圭的故事同樣慘烈。Google 在當地買下 29 公頃地(是國營電信全部資料中心足跡的 58 倍),而 2023 年夏天蒙特維多遭逢大旱、政府把受污染的鹹水混進飲用水供應,水龍頭流出腐臭褐色、帶化學味的液體,負擔不起瓶裝水的人喝了胃痛、起疹、流產率上升——該國 80% 以上的淡水流向產業而非人的嘴。環境運動者 Daniel Pena 援引「烏拉圭是世界第一個在憲法承認水為人權的國家」提告,2023 年 3 月勝訴,揭露 Google 計畫每天直接從飲用水供應抽 200 萬加侖(約等於 5.5 萬人的每日消耗),數千人因此上街,牆上噴著一句口號:「這不是乾旱,是掠奪(Esto no es sequía, es saqueo)。」

郝借智利礦業家庭出身的 Sonia Ramos(她父親經歷過 1957 年奪命的銅礦崩塌)說出全章的論點:「我們的祖先是礦工」——問題從來不是採礦或技術本身,是規模。智利大學的 Martín Tironi Rodó 把這句話推到結論:「如果我們繼續用過去的方式開發這項技術,我們將會摧毀這個星球」,但「我們可以想出另一種方式,把技術創新與大地連結起來」。這也呼應了第 3 章蘇茨克維那句令人發毛的預言——「地球的整個表面被資料中心和發電廠覆蓋」,會像「一波計算的海嘯」一樣降臨。郝的提醒很實際:在「資料枯竭」成為 AI 的瓶頸之前,能源與水的短缺可能先到,而真正承受這個瓶頸代價的,會是智利、烏拉圭這些早已被新自由主義抽取史掏空的地方。

兩位先知,與監管的俘虜(第 13 章)

2023 年 5 月,奧特曼到美國國會作證,姿態是呼籲監管,內容卻是替 OpenAI 量身打造的提案——以算力門檻發牌照、建立危險能力標準、設立獨立稽核。他迴避了著作權與隱私這些棘手問題,當參議員問他願不願意親自掌管監管機構,他一句「我熱愛我目前的工作」博得滿堂笑;當被問是否賺很多錢,他回答:「我被付夠買健保。我在 OpenAI 沒有股權。」到 6 月初,他已親自會見至少 100 位美國立法者,還見了副總統賀錦麗。坐在他旁邊作證的 Gary Marcus 起初被他的「真誠」征服——「他的真誠在物理上非常明顯」——後來收回,說自己意識到「參議院、最終美國人民,可能都被擺了一道」。郝還記下一個黑色喜劇的對照:被生成式 AI 威脅生計的概念藝術家自費飛到華府,會議卻被奧特曼的作證擠到隔天;奧特曼受邀參加與六十位眾議員的獨家烤雞晚宴,藝術家們只能用葡萄酒配 Chick-fil-A 招待幕僚。

郝揭露的關鍵,是一份 51 頁的「前沿模型」政策白皮書,由 OpenAI 的安全部族、微軟、Google DeepMind 與十多家(許多繫於 EA 社群的)智庫合寫,提議用 10²⁶ 次浮點運算當監管門檻。白皮書的共同作者 Sara Hooker 後來坦言,這個數字被選為「略高於 GPT-4 據報導的訓練算力」,本身「有些任意」。但它政治上極其方便,迅速寫進拜登的 AI 行政命令(其中三個危險能力的描述「一字不變地複製」了白皮書),歐盟跟著訂了 10²⁵,加州 SB 1047 也採用。問題是它在科學上極其脆弱——Hooker 指出「規模能導致更先進能力,反向並不為真」,Deborah Raji 指出算力根本不是風險的好預測指標:若一個模型能生出生物武器配方,「那是因為他們在含生物武器資訊的資料集上訓練了它」。真正能對企業問責「長出牙齒」的訓練資料透明度建議,反而被冷處理——因為它對「防中國拿到能力」毫無幫助。郝把這稱為第 10 章那個「奇特聯盟」的政策版:末日論者與企業在此合流,把焦點鎖在遙遠的前沿風險,好讓所有在場巨頭都不必處理眼前的著作權、隱私、勞動問題。她也記錄了獨立研究的萎縮——在 Schumer 的第一場 AI 論壇上,Deborah Raji 是唯一一位與業界或末日論者都沒有財務關係的學者,與奧特曼、馬斯克、納德拉、蓋茲、祖克柏同席。

這一章還補上了董事會崩解的前奏。2023 年 OpenAI 連失三位獨立董事卻未及時補位,剩下三位獨董(Quora 的 D'Angelo、機器人專家 McCauley、CSET 的 Toner)與奧特曼之間,正為三件具體的事積累著無法調和的分歧:微軟未經部署安全委員會核可就向印度用戶推出 GPT-4,奧特曼整天開會卻一次也沒通知董事;奧特曼曾背著 D'Angelo 試圖以「利益衝突」逼他下台;以及董事查出 OpenAI Startup Fund 結構詭異、竟是奧特曼「合法擁有」。蘇茨克維此時也愈來愈「彌賽亞式」,會議上認真談起「等我們都進到地堡裡」——有研究員問「地堡?」,他答「我們發布 AGI 之前肯定要建一個地堡」。章末的鉤子是:10 月初,托納收到蘇茨克維一封電郵——「想談」。

解救:把帝國邏輯縮小到一個家庭(第 14 章〈解救〉)

第 14 章郝做了一個大膽的編排:用整章篇幅回到奧特曼的妹妹安妮。她曾是塔夫茨大學生物心理學主修、加州大學舊金山分校的神經科學研究員,2016 年完成醫預科,前途看好。但一連串慢性病(從阿基里斯腱炎、多囊性卵巢症候群,到反覆的疼痛)、父親 2018 年 5 月驟逝(那是她最親近的人),以及家庭以「促進財務獨立」為由拒絕無條件支援之後,她逐步陷入貧困。她繼承父親的部分遺產,本擬好六個月計畫,卻被掌管遺產的母親以「最佳稅務策略」之名改成信託、要她 59.5 歲才能動用,並收到一封署名「媽媽、Sam、Max、Jack」的電郵:「如果/當你目前繼承用完時,我們不會在財務上支持你。」2019 年 12 月她帳戶見底(同期奧特曼剛確保微軟首筆 10 億、OpenAI 全速訓練 GPT-3),登入伴遊網站開始性工作;2020 年 5 月家庭支援結束後一度無家可歸。她在創傷治療中被診斷 PTSD,並首度在 Twitter 公開指控哥哥的性、生理、情緒、財務虐待。2025 年 1 月她正式提告,求償逾 7.5 萬美元;2024 年 10 月她被確診「過動型 Ehlers-Danlos 症候群」——這正是布羅克曼當年逢人就講、用來宣傳 GPT-4 醫療奇蹟的那個病(布羅克曼說 GPT-4 替久查不出病因的妻子安娜猜中了它)。同一種病,一邊是 AGI 拯救人類的活廣告,一邊是被自己億萬富翁哥哥棄之不顧的妹妹——這是全書最尖銳的諷刺對位。

郝的論點直白而尖銳:奧特曼對待安妮的方式,「就像他把 AI 帶到世界上的方式」(書中一位安妮的長輩之語:「他在那邊欣欣向榮,而他妹妹從裂縫中掉下去」)——公開宣揚要終結貧困、改善醫療,私下對自己最脆弱的家人卻是冷漠、控制,甚至在《紐約》雜誌報導前向人散布她有「邊緣型人格障礙」的說法(並無醫療紀錄佐證,治療筆記顯示最終診斷印象是性虐待史而非 BPD)以預先抹黑。連 OpenAI 公關副總都在咖啡店主動把話題導向安妮,暗示記者「該考慮」報導安妮是否合乎倫理——這本身就是一場小型的敘事操控。安妮以醫療紀錄與個人敘述孤軍奮戰,對手卻能動員數十億資本、公關機器與法律團隊。郝把這個權力鴻溝講得透徹:安妮面臨的,「正是我看著資料工人與資料中心行動者搏鬥的同一道權力鴻溝」——小人物把僅有的一切擲向挑戰帝國敘事,對手卻能「以幾句輕聲細語——在活動上、對國會、對國家元首、對記者——撫平阻擋他們意志的抗議低語」。她並引一句總結:對照肯亞工人、智利行動者與奧特曼自己的妹妹的真實處境,那些「AI 終結貧困、改善醫療」的夢「空洞地響起」。郝也暗示,正是安妮 2022 年那兩則重新爆紅的指控推文引起了蘇茨克維的注意,促使他開始重新評估奧特曼的道德人格——為下一部的政變埋下伏筆。


第四部:政變、清算與帝國的公式——治理為什麼必然失敗

棋局:兩位高層的覺悟(第 15 章)

第四部回到序章那場政變,但這次是慢動作重播,從導火線講起。郝先為臨時執行長穆拉蒂(Mira Murati)畫了一幅戲劇性的小傳:她生於阿爾巴尼亞,童年正逢該國從極權共產轉向自由資本的劇變、金字塔騙局崩潰引發暴力動盪,她甚至要繞著炸彈坑去上學;後來靠獎學金一路念到達特茅斯機械工程,做過 Tesla Model X 的資深產品經理,2018 年加入 OpenAI。她對自己事業的定位是一句意味深長的話——AI「看來像是我們會做的最後一件事」。

導火線在 2023 年 9 月底點燃:穆拉蒂與獨立董事托納喝咖啡,吐露對奧特曼領導的擔憂——他「施壓公司出貨太快」,她得不斷清理他在微軟關係與內部衝突中造成的混亂。她私下的診斷很重:奧特曼之外,公司其實還有「另外兩位執行長」——布羅克曼是「第二個執行長,但是個糟糕的」,而納德拉與微軟是「第三位執行長」,因為奧特曼對微軟利益的順從。10 月初,蘇茨克維主動接觸托納(兩年來他從未私下聯繫過她,緊張到難以言語),警告升級:「在最高層級,OpenAI 是個棘手環境」,並丟出最重的一句——「我不認為山姆是那個應該把手指放在 AGI 按鈕上的人。

蘇茨克維對奧特曼的指控很具體:他「會對任何抗拒他決定的人說任何他認為他們想聽的,以贏得支持;然後當他失去耐心時,會破壞他們的可信度直到他們離開」;他引了一句俗諺形容奧特曼的操控風格——「打罵會持續到士氣改善為止」。他還提出一個貫穿後續的隱喻:「董事會就像外部對齊,管理就像內部對齊。我們需要修正內部。」——直接換掉奧特曼是「A 計畫」,只換布羅克曼只是「B 計畫」。郝藉此章揭示治理結構的根本脆弱:董事會要糾正執行長,卻只能依賴被操控與恐懼束縛的內部高層來提供證據——而這正是失敗的種子。本章還記下一個被當場拆穿的謊:奧特曼告訴蘇茨克維「麥考利也同意 Helen 顯然該走」,蘇茨克維去向麥考利求證,麥考利目瞪口呆,根本沒說過——這成了政變的直接觸發點之一。

陰謀詭計:制衡機制的崩潰(第 16 章)

第 16 章是「the blip」五天的內幕全紀錄,也是全書對治理失敗解剖得最深的一章。郝指出,三位獨立董事手上的證據並不薄弱——他們合計從奧特曼「一兩級內」的至少七位高管(包括蘇茨克維、穆拉蒂、達里奧·阿莫德伊)聽過對他類似的描述,多人用「虐待」「操控」形容,多數強調「無法信任他說的話」。董事們甚至列出了一份具體的治理罪狀清單:非營利董事會上有三位共同創辦人(太多);多數獨董與奧特曼並非真獨立;奧特曼未揭露他對 Startup Fund 的個人法律所有權;他隱瞞微軟的部署安全違規;他先後試圖逼走 D'Angelo 與托納;而整個非營利「沒有獨立法律支援,一切都走營利律師」。他們做了一個漂亮的思想實驗:如果 OpenAI 只是一家雜貨配送公司,奧特曼的行為夠不夠被開除?也許不夠。但 OpenAI「可說是世界最強大的 AI 公司」,當資深領導層連 CEO 給的基本資訊都無法信任時,「OpenAI 試圖打造 AGI 又意味著什麼?」

但董事會還是輸了。郝歸納原因:他們無法有效向員工、投資人、夥伴溝通與正當化決定(提供證據會暴露穆拉蒂);奧特曼掌控了公司敘事與員工信任;組織內部缺乏信任文化,使高層在真正該團結時也無法彼此信任;而矽谷的權力網絡凌駕了治理原則——後來《華爾街日報》揭露,臨時接班的 Emmett Shear 其實是 Airbnb 的 Chesky 的門生,而 Chesky 整個週末都與微軟董事 Hoffman 在電話線上安撫投資人、對齊微軟訊息。穆拉蒂自己的搖擺也成了關鍵:她在高管群裡有時把自己說得「和大家一樣困惑」,最終把名字放上了員工抗議信的第一位。一位研究員直言:「沒有米拉,我不認為山姆能做到他做的事。」

郝在此章透露一個她自己報導中極具戲劇性的發現。週二下午馬斯克在 X 上推了一封前員工的匿名信,信中附了一個 Tor 電郵帳戶(使用者名 capped_profit)和密碼。郝拿到登入權限,在草稿匣裡看到一封未寄出、寫給其他登入者的指令信:「主旨:停止聯繫媒體/Elon 的涉入把這變成陰謀論者的人身攻擊。讓我們重新聚焦於私下且個別地與董事會溝通……閱後簽名。」信中還提到「在它發布之時,已有 13 人參與撰寫」。這封沒寄出的信,等於是反對派內部對自己策略失敗的即時診斷:當議題被捲進名人混戰,理性問責的空間就消失了。馬斯克的「幫忙」其實幫了倒忙——他凌晨甚至推了一段《教父》洗禮場景的剪輯。郝最後下了一句殘酷的判斷:在最後緊張的等待時刻,「沒有一位董事掌握到自己誤判的規模」。

危機過後,由新董事桑默斯與泰勒監督的 WilmerHale 調查審閱了逾 3 萬份文件、數十場訪談,報告卻從未公開。桑默斯私下承認調查「發現許多奧特曼對不同人說不同話的例子」,但不足以排除他續任。泰勒在部落格寫下:「我們一致認定 Sam 與 Greg 是 OpenAI 正確的領導者。」托納與麥考利則反擊:「問責至關重要……欺騙、操控與抗拒徹底監督,應該是不可接受的。」制衡機制的成功竟近乎偶然,啟動了還是輸——這正是郝對「治理失敗」最深的控訴。

清算:一場「全危機」(第 17 章)

奧特曼復職後,故事轉入剝離與外流。郝以「Omnicrisis」(全危機)統攝這一章,並點明它與政變其實是同一回事:「都是當一個帝國透過如此多的剝奪積累起如此集中的權力時,那種深層、系統性的不穩定所產生的痙攣。」

最震撼的是「股權追回」(clawback)。記者 Kelsey Piper 在 2024 年 5 月揭露:員工離職時若不簽署終身不貶損協議,將失去所有已歸屬股權。安全研究員 Daniel Kokotajlo(他相信 AGI 在 2027 年有 50% 機率出現、且有七成機率對人類很糟)為了原則拒簽,放棄約 170 萬美元股權——佔他家庭淨值約 85%。奧特曼起初推文撇清:「已歸屬的股權就是已歸屬的股權,沒得商量……這是我的責任,是我極少數真正感到尷尬的時刻之一;我不知道這在發生。」但 Piper 的第二篇報導附上鐵證——奧特曼早在 2023 年 4 月 10 日就簽署了賦予公司追回權的法律實體文件,比他自稱「2024 年 4 月才知道」整整早了一年。在隨後的全員會議上,一位安全研究員要求每位高管逐一回答「四月前知不知道這些條款」,戰略長 Kwon 答「是」,穆拉蒂與營運長答「否」,奧特曼則含糊地說「這逃過了我的注意」,布羅克曼跟著說「我也是」。郝藉此論證:股權追回的本質,是一個組織為了確保員工沉默而系統性地威脅他們的財務未來——這不是疏忽,而是權力集中的邏輯結果。

同一時間,蘇茨克維於 2024 年 5 月 14 日離開(後創辦 Safe Superintelligence),超對齊負責人 Jan Leike 同日出走(後加入 Anthropic),穆拉蒂等高層 9 月接連請辭。Leike 那則近百萬瀏覽的離職推文,成了安全派的墓誌銘:「過去這些年,安全文化與流程,已讓位給亮麗的產品。」而 GPT-4o 推出時的「Sky」聲音風波,則把誠信問題推到高潮:那個聲音酷似曾拒絕為 ChatGPT 配音的史嘉蕾·喬韓森,奧特曼還在發表後推了一個單字「her.」(致敬電影《雲端情人》裡的 AI)。喬韓森公開譴責自己「震驚、憤怒並難以置信」,因為奧特曼曾兩度親自邀她配音、說她能「弭平科技公司與創作者之間的鴻溝」,而她已拒絕;OpenAI 最終撤下 Sky。郝藉此論證:政變沒讓奧特曼學乖,只讓他學會隱藏症狀。

帝國的公式(第 18 章)

第 18 章是全書論證的收束。郝從奧特曼對拿破崙的崇拜寫起——他 2018 年前最愛的書是《拿破崙的心智》(一本逾 300 頁的拿破崙語錄合輯),他欣賞拿破崙對「人類心理難以置信的理解」,以及他如何「重新詮釋」法國大革命「自由、平等、博愛」的口號來鞏固自身權力(最終卻反其道而行、甚至重新引入殖民奴隸制)。奧特曼說:「很慶幸他不是在治理美國,因為那是一個深刻理解了某種東西、並顯然有能力用它取得權力的人。」郝由此提煉出 OpenAI 作為帝國的三成分公式

第一,使命集中人才——用宏大遠景把天才聚攏在一起(就像「人工智慧」這個詞當年的號召力)。奧特曼自己 2013 年就寫過:「最成功的創辦人並非一開始就想創造公司……他們的使命更接近於創造一種宗教,而某一刻才發現,成立公司是達成它最容易的方式。」第二,使命集中資本與資源、同時掃除障礙、監管與異議——以「創新、現代性、進步」與「對抗不分享我們價值的威權競爭者」之名(他 2024 年在《華盛頓郵報》投書,標題就是「誰將控制 AI 的未來?」,把選項框成美國盟邦對上威權國家的二元)。第三,也最危險,使命含糊到足以被反覆重新詮釋:從 2015 年的「非營利、開源」,到 2016 年的「成果共享但科學內容可以不分享」,到 2018 年的「上限利潤」,到 2020 年的「API 作為開放策略」,到 2022 年的「迭代部署、盡快發 ChatGPT」,到 2024 年的「把超強工具免費或以極佳價格給人們」——每次換包裝,權力都繼續集中。

郝抓到一個近乎自白的瞬間:政變前兩天,奧特曼對《紐約時報》說,AGI「是個荒謬且無意義的詞,所以我為我繼續使用它道歉」。一個他自己都覺得荒謬的詞,卻是凝聚所有人、又讓他自由轉向的萬用工具。這就是帝國統治的精髓。郝由此論斷:那場董事會危機之所以「就如同必然」會發生,正因為「非營利治理營利」的結構本身把加速派與末日派的對立、以及一個被廣泛授權卻只能靠被操控的內部人提供證據的董事會,全都鐫刻了進去——「如果這個結構保持原狀,這樣的衝突注定會再次發生」。所以奧特曼在幕後一邊應付危機、一邊在投資人施壓下著手取得個人股權、鞏固對自己的控制。章末,公司宣布要轉型為「營利公益公司」(PBC),那輪創下史上最大創投紀錄的 66 億美元募資(估值 1,570 億)還附帶一個條件:兩年內若不轉成營利,投資人可以要回錢。奧特曼 2025 年 1 月宣告「我們現在有信心知道如何打造我們向來理解的那種 AGI」,目光已轉向「真正意義上的超級智慧」。郝的判斷是:高層的離開不是因為他們突然發現問題(他們一直都知道),而是因為這個系統已經「不可改革」——而轉向營利,是把最後一層非營利掩護也撕掉的邏輯終點。她也補了一筆值得玩味的反諷:規模化這個屢試不爽的公式,此時似乎正在失靈——代號 Orion 的下一代模型做了一年多仍達不到值得發布的表現,而 OpenAI 多年來把組織導向「剝削現有研究,而非探索未繪製的科學」。

帝國如何倒塌(尾聲)

最後一章,郝沒有寫「如何摧毀 OpenAI」,而是寫「另一條路長什麼樣」。

她舉了紐西蘭原住民組織 Te Hiku Media 復興毛利語(te reo Māori)的例子,作為帝國模式的完整對照。先看殖民如何幾乎滅掉這門語言:1867 年的法律禁止毛利語、體罰說母語的孩童,使母語使用者占毛利人口的比例從 90% 暴跌到 12%。而在全球逾 7,000 種語言中,依 OpenAI 自己的測試,只有 15 種(0.2%)能被 GPT-4 以八成以上準確度支援。Te Hiku 的做法則完全相反:他們發起社群競賽,十天內從約 2,500 人手中收集了 310 小時自願捐贈、高品質的轉錄音訊(相對於 OpenAI 為 Whisper 從網路撕下的 68 萬小時未經同意的音訊),只用兩顆 GPU 與 Mozilla 的開源工具,就做出準確度 86% 的語音辨識模型。它的三大原則是同意、互惠與主權:只向願意的社群收集資料,把資料的守護權(kaitiakitanga)留在社群手中,只授權給尊重毛利價值的組織,並自購本地伺服器、不依賴任何雲端巨頭。共同創辦人 Keoni Mahelona 那句話總結了全書的控訴:「資料是殖民化的最後前線。AI 只是又一次土地掠奪。

郝接著介紹格布魯創辦的 DAIR(分散式 AI 研究所,「Distributed」這個詞本身就是為了對抗集中化)——「科技從矽谷影響整個世界,但整個世界沒有機會影響科技」——以及一個正在成形的全球資料工人運動:社會學家 Miceli 主持的「資料工人探詢」付給全球工作者德國標準的研究員時薪,並反問「為什麼我們不去看這些公司付多少,而要看這些工人能接受多低?」;委內瑞拉的 Fuentes(「我們是社會的幽靈」)、肯亞的 Okinyi(轉身創辦了非洲科技工人社群、入選《時代》AI 百大影響力人物)、烏拉圭的 Pena 都從受害者變成了組織者。

郝引史丹佛研究員 Ria Kalluri 的提問,作為衡量一切 AI 的尺規:別問 AI 是否「做好事」,要問它如何轉移權力——它「集中還是重新分配權力?它繼續加固帝國,還是開始把我們拉回民主?」她並把帝國公式翻轉成一個「解散帝國」的對稱結構:帝國沿著知識、資源、影響力三條軸彼此強化地集中權力(控制知識生產帶來影響力,影響力累積資源,資源又反過來確保知識生產),那麼解散帝國,就是沿著同樣三條軸重新分配——要求公開訓練資料與超算規格、設立獨立評估者(如同 FDA 之於醫療器材、CFPB 之於金融產品)、給 AI 一個如同家電「能源之星」的環境評級、用工會的力量保護被自動化威脅的勞動。郝的最終立場很清楚:問題不在「AI 本身邪惡」或「科技該停下來」,而在於「這個特定的、集中化的、以使命為掩護的帝國式結構」必然失敗——而替代方案(小型、本地、社群驅動、尊重同意與互惠)已經在萌芽。她以 ELIZA 發明者維森鮑姆的話收尾:「一旦某個特定程式被揭穿,一旦它的內部運作被用足夠淺白的語言解釋清楚以致引發理解,它的魔法就崩解了。」她希望這本書,就是揭穿魔法的一塊新地基——如何讓那些替代方案擴散繁榮,「就是解散帝國的公式」。


幾個值得繼續辯論的地方

讀完《AI 帝國》,有幾個觀點最值得放到桌上討論。

第一,「帝國/殖民」這個框架,是洞見還是過度延伸? 郝用得極有說服力,尤其在資料標註勞工與資料中心吞水吃電這兩條線上,殖民類比幾乎是字面成立的——廉價勞力、資源汲取、利潤向上集中。但批評者會問:當所有強大的科技公司都能被叫做「帝國」時,這個詞還剩多少分析力?郝的回應藏在細節裡——她不是在喊口號,而是逐項對照帝國的運作機制(資源汲取、勞動剝削、現代性敘事、軍備競賽話術、權力集中),讓類比承重。讀者可以自己判斷哪幾根支柱站得最穩。

第二,奧特曼到底是惡棍,還是系統的產物? 這本書對奧特曼極不留情(從「現實扭曲場」「煤氣燈操控」到被當場抓謊),但它最深刻的論點其實不是「奧特曼是壞人」,而是「結構本身會獎勵這種行為」。第 18 章說得明白:OpenAI 不是因為領導者故意邪惡而失敗,而是它的結構激勵權力集中、含糊使命讓領導者隨意轉向。這個區分很重要——如果問題只是某個人,換掉他就好;如果問題是結構,那才是真正棘手的治理難題。

第三,「不可避免性」這個前提該不該被接受? 全書真正想拆掉的,是那句「反正會發生,不如我來做」。郝反覆主張:當前這個 AI 形式「沒有任何是不可避免的」,它是「上千個主觀選擇的結果」,是「具體就是 OpenAI」造成的。這是樂觀的——意味著未來仍可塑造;但也可能被批為低估了競爭與資本的結構性慣性。Te Hiku 的小模型很美,但它能不能在一個算力與資本贏家通吃的世界裡存活、擴散?這是郝的願景最需要被追問的地方。

第四,安全派與營利派的對立,是真衝突還是假對立? 郝筆下的安全部族(蘇茨克維、阿莫德伊、Leike)一再敗給商業加速,看似是良心對抗貪婪。但她也尖刻地指出:末日論者與加速論者其實「在同一本聖經中佈道」,共享「AGI 必然且宏大」的信仰,兩派的爭吵反而幫所有人迴避了 AI 此刻就在造成的真實傷害。這讓「安全 vs 營利」這組看似清楚的對立,變得複雜得多——也許真正被邊緣化的,是第三種聲音:那些只想談著作權、隱私、勞動、歧視這些「不夠宏大」問題的人。


本書關鍵觀念清單