← 報告總覽 相關 wiki →

《不負責任的機器》讀書報告

The Unaccountability Machine: Why Big Systems Make Terrible Decisions — and How the World Lost its Mind 丹·戴維斯（Dan Davies）著，2024

一個前投資銀行家的問題：壞事發生了，卻沒人是兇手

丹·戴維斯做過投資銀行家，寫過一本談金融詐欺的書《為錢說謊》（Lying for Money）。在那本書裡他被一個問題卡住：二○○八年金融海嘯之後，民間普遍認為「絞死那些銀行家都還太便宜他們」，為什麼沒有一個銀行家進牢裡？他得出一個出人意料的結論——問題不在檢方膽小，而在於一個民主社會要把人關進監獄，你得證明他「蓄意」實施了一項「特定的」犯罪。可是到了本世紀初，基層交易員與大老闆之間「不僅沒有書面軌跡，在大多數案例裡，根本就沒有任何關聯」。他造了一個詞叫「自組織控制權詐欺」（self-organising control fraud）：銀行的誘因制度致罪性太強，以致它「有一種自然的傾向，會把自己組織成詐欺的行為模式」，高層只需訂下不切實際的獲利目標、對法遵投資不足，「從來沒有人把事情安排成『讓他們不會形成犯罪共謀』的樣子」。

這本《不負責任的機器》就是從這個謎團長出來的。戴維斯把問題擴大：不只銀行，福斯新聞為何明知投票機詐選指控是假的卻照播不誤（最後賠了七億八千多萬美元和解）？為什麼從川普到貝魯斯柯尼到波索納洛，全世界冒出長相相似的民粹運動？他借用歷史學家亞當·圖澤的「多重危機」（polycrisis）概念，認為這些現象有結構上的相似性：「既有的層級體系」失去了控制，專業與管理階層犯下眾目睽睽的大錯，聲望驟然崩跌，於是兜售怒氣的民粹分子趁虛而入。

本書的核心診斷是：這不是一場道德的危機，而是一場問責的危機。戴維斯在〈作者的話〉就把基調定好了——「系統沒有動機，所以也沒有隱藏的動機。如果一個系統一貫地產生某種特定結果，那麼那就是它的目的。」這本書真正的反派，是「複雜系統那種令人遺憾的傾向——它們的動態總是不透明而易變」。

卸責槽：本書的招牌概念

戴維斯最有名的發明是「卸責槽」（accountability sink）。他用一個任何人都遇過的場景來定義它：你被擠下了班機，去跟登機門服務員理論，卻撞上一個無可否認的事實——這個活生生的人對此根本無能為力，他只被允許遵循一套規則手冊，而這套規則傳達的是更高層的決定。你想發火，卻沒辦法真的怪罪眼前這個人。航空公司「打造出了這樣一種局面：它可以用一個無定形大公司的匿名嗓音對你說話，而你卻只能彷彿對著一個和你一樣的人，去回應它」。那些做決定的主管「得以毫無干擾地把股東價值最大化，完全不必面對自身行為的後果。他們建造了一座卸責槽，用來吸收那些沒人想要的負面情緒」。

戴維斯強調，卸責槽不只是「找個時薪工當人肉盾牌」這麼簡單。它需要一個組合：一個人，加上一條「讓你無從藉由向更高層上訴來推翻決定」的政策。關鍵在於把決定下放給一本規則手冊、把人從流程中抽走，從而切斷問責所必需的連結。由此他提出一條格言式的「問責的基本定律」：

你能夠改變一項決定的程度，正好就是你能夠為它負責的程度，反之亦然。

這條定律是全書的樞紐。一座卸責槽要運作，就必須「阻止受決定影響者的回饋去影響系統的運作」——它對資訊流動有破壞性的影響。每一條規則都隱含一個關於世界的模型，而模型不得不省略大量細節、建立在假設之上。當未被預料到的處境出現時，「系統所預期的輸入」與「它實際得到的輸入」之間就出現落差，於是結果可能既可怕又荒謬。

書中最令人難忘的卸責槽案例，是史基浦機場的碎松鼠機。一九九九年,一批四百四十隻地松鼠搭荷蘭皇家航空從北京飛抵阿姆斯特丹，卻缺進口文件。機場人員遵照荷蘭農業部的命令，把牠們全扔進了一台原本給家禽業絞碎無價值小公雞的工業碎裂機。戴維斯指出，這套系統「運作得很好，直到某件沒被預料到的事（寵物松鼠熱潮）出現為止」，而「當時沒有任何有效的途徑，能把資訊回饋給那些有能力更改政策的人」。對主管而言，「做出一個明確的決定去殺掉這些松鼠」在心理上遠比「單純建造一套系統，確保牠們會被絞碎」更難承受——這座卸責槽「就像汽車的潰縮區，用來保護任何一個別的主管，使其免於一個災難性的決定」。

戴維斯接著一連串展示卸責槽無所不在：學術出版業（用「加權引用次數」當作評斷學者升遷的完美卸責槽，把「直接評斷同儕」這件惹人厭的事外包出去）；保險業（標準化讓核保人熱愛一致流程，但也讓「做例外」在財務上充滿風險）；歐元的《穩定與成長公約》（那個「財政赤字不得超過 GDP 百分之三」的門檻，竟源自一位法國公務員一九八一年一小時內想出的、會「讓人聯想到三位一體」的數字）；各國央行的百分之二通膨目標（源自一九八八年紐西蘭財長在電視上的隨口一答）；以及國際貨幣基金（IMF）——這是唯一被經濟學家廣泛分析的「問責迴避」案例，弱勢政府樂得用「來自外部的另類壓力」當代罪羔羊，強推自己其實認同卻不願在政治上掛勾的政策。

戴維斯一度興奮地以為自己找到了「萬有大理論」，甚至擬好一條會與墨菲定律並列的「問責遞減原理」：除非有人有意識地阻止，否則現代工業社會裡的任何組織，都會傾向重組自身，以減少可歸因於其行為的個人責任，直到危機爆發為止。但他隨即「令人崩潰地」意識到這太過簡單了——卸責槽也大可被稱為「法治」。你並不希望法官「想怎麼判就怎麼判」；普通法之所以不是一座完整的卸責槽，是因為它透過判例與法官聲望保留了一條緩慢的回饋連結。那些想把律法之書當成「演算法式判決」來源、徹底切斷與人類決策者連結的人，叫做「基本教義派」——「他們都很危險」。

正是這個「事情沒那麼單純」的轉折，把戴維斯領向書架上那本一直沒翻開的書：史塔福·比爾的《企業之腦》。

控制論與史塔福·比爾：被遺忘的那場革命

本書的論證骨架，建立在一門「未能起飛」的學問——控制論（cybernetics）之上。戴維斯在〈引言〉裡點出三場思想革命：經理人革命「真的發生了，但我們把它忘了」；控制論革命「看起來正要走向某個有趣的方向，卻始終沒有抵達」；然後一九七○年代初的新自由主義革命「成功地形塑了我們的社會」。控制論本來最該落腳在經濟學裡，卻沒有；它的關鍵人物維納、馮·紐曼、夏農，全都以「計算的先驅」更為人知——這門新科學「成了自身技術成功的受害者」。

書中真正的主角是史塔福·比爾（Stafford Beer），一位英國管理科學家。他是個無照行醫式的天才：當過心理學家卻沒有醫學資格，當過數學家卻沒有數學學位，當過經濟學家卻沒有博士學位。他在二戰印度軍中帶領一支「精神病態人格」的文盲士兵單位，發展出他的根本公理：「要理解一個黑箱所執行的功能本質，並不需要進到黑箱裡面去。」一個真正複雜的系統，你別指望取得關於其內部結構的完整資訊；與其用「部分資訊、先入為主的理論與瞎猜的大雜燴」去操控它，不如退後一步、接受它會守住祕密，然後觀察它的行為。

由此延伸出比爾最著名、也最具爭議的格言 POSIWID——「一個系統的目的，就是它所做的事」（the purpose of a system is what it does）。學術出版的目的是製造引用與利潤，史基浦寵物旅館的目的是把松鼠絞碎，無論牽涉其中的個人想要什麼。戴維斯特別澄清：這不是犬儒主義，「說『系統的目的就是它所做的事』，並不是在對替它工作的那些人的意圖做出任何陳述」——把系統的性質與其成員的性質混為一談，正是「不去打開黑箱」最重要的理由之一。

比爾的對立面是經濟學。第2章犀利地指出，數理經濟學在一九四○、五○年代把「均衡」概念從熱力學搬過來，靠著「做出一個巨大的假設」——把商品、偏好和人當成完全相同、可以互換的基本粒子——才讓物理類比成立。控制論裡那關鍵的一步（「在系統周圍畫一個框，說我們對它的內部結構一概不知」）對經濟學家已經行不通，因為他們只能用「最小的組成部分」去描述龐大複雜的實體。戴維斯借比爾的話下了一個漂亮的判詞：「無知是一種最後手段式的資訊處理系統。」哪裡分析不下去，意識形態就頂上來。

第2章末尾還埋進了關鍵的對照：蘇聯的中央計畫「有兩大問題：它是『計畫』，而且它是『中央』」。海耶克（戴維斯認為他「大可被視為控制論的先驅之一」）看出資訊本身是棘手的概念——銅的總噸數可測量，卻未必有經濟意義，而價格系統在「那個當下」承載的資訊無法用其他方式取得。這個洞見後來成為比爾在智利實踐的理論基礎。

公司是不是人工智慧？房間裡的第三樣東西

第3章把控制論接到當代最熱的焦慮：人工智慧。戴維斯用 YouTube 兔子洞舉例：有一個人類智慧在吸收內容，有一套演算法在推影片，但「背景裡還有第三個東西——擁有 YouTube 的那間公司」。沒有任何一個人決定要推哪些影片，連母公司高層都會被這些決定嚇壞（2017 年的兒童惡搞卡通醜聞）。「在某處、在某個時間點，有人決定了『互動參與度』就是這套系統的目的。」

於是戴維斯提出，公司可以被理解為一種「決策系統」（decision-making system），甚至是「非常古老、非常緩慢的 AI」。他重訪了少年時代曾讓他著迷的瑟爾「中文房間」論證，發現它「有一部分是關於問責，有一部分則是關於尊重黑箱的完整性」——如果產出結果的過程深不可測，那這個產出就必須被視為「來自系統」。他借控制論學者羅斯·艾許比的話說明複雜度為何爆炸:當部分增加到四個、每個都影響其餘三個時，就有二十條迴路，而「這類複雜系統無法被當成一組多少有些獨立的、相互交織的回饋迴路來處理，而只能被當成一個整體來看待」。

這帶來一個對卸責槽的重新理解，也是全書最深刻的一次轉向：問責的潰逃未必出於經理人耍滑頭。「更可能的情況是：經理人之所以不覺得自己該為組織的行為負責，是因為在他們看來，自己根本不像是真正的決策者」——因為這些東西對他們而言也同樣難以理解。於是「機構往往會朝著減少個人問責的方向發展」這個事實，其實是另一個比較沒爭議的事實（機構成長時往往變得更複雜）的後果。說「是波音做了這件事」（指 737 MAX 的致命缺陷），往往比列出所有決定、或找個倒楣的中階主管釘上去，都更合理。

由此戴維斯給「陰謀論 vs 搞砸論」一個控制論式的答案：去追問某件事是陰謀還是失誤往往沒有意義。「系統不會犯錯——如果它做了某件事，那就是它的目的。但這道理反過來也成立。系統並沒有內在慾望，所以它們也不會帶著意圖去做事。那裡只有一張因果之網。」這也解釋了為什麼格蘭菲塔大火、血腥星期日這類公眾調查總是令人不滿——它們是「想去把責任歸派到『責任幾乎無從歸派』之處」。

第3章還引入了 AI 倫理裡的「可解釋性」（explainability）與「責任缺口」。戴維斯與一位統計學家聊過後尖銳指出：可解釋性「很少被當成一般性地解釋哪些輸入最有可能改變輸出這個問題來分析」——「沒什麼人特別有興趣去研究『好決定』的可解釋性」，人們投入這個課題通常是為了解釋「為什麼某人被拒絕了健康保險」。他的結論是「AI 倫理就是企業倫理」：當一個決定由公司在完全沒有電腦化流程的情況下做出時，你能要求的解釋「少得可憐」；各式各樣的組織早已在「黑箱」的複雜程度上運作了好幾個世紀。最後他引入伯斯特隆姆的「迴紋針最大化機器」，並指出它與全球暖化、與「公司把財務結果列為優先、即便面對人類滅絕也無法改變航向」的類比清楚到不必解釋。這埋下了全書最終的理論炸彈。第3章以英國 2020 年的考試評分「演算法」醜聞收尾——一台「迴紋針最小化機器」，為了讓成績分布貼合往年曲線而犧牲無數個別人生,「系統裡的人是好的，但系統本身不是」。

變異度工程與可行系統模型：本書最硬的兩章

第4、5 章是全書理論的最高峰，戴維斯自己也承認「這一章仍會比本書其他任何一章都來得吃力」。但這是理解他全部論證的工具箱。

核心概念是艾許比的「必要變異度原理」（principle of requisite variety）——比爾稱之為「控制論版的牛頓運動定律」：任何想要當一個系統「調節器」的東西，本身的變異度至少要和那個系統一樣多。「變異度」粗略地說就是一個系統所能處於的狀態數目，但戴維斯強調它「並不是任何東西的內在屬性；它是你選擇描述它的方式的屬性」。火車只需一根操縱桿，汽車需要方向盤，飛機需要搖桿——控制系統的變異度必須匹配它要應付的維度。

比爾把這套實踐叫做「變異度工程」。戴維斯用一個「松鼠存活設施」的玩具例子，講解三個關鍵動作：變異度衰減（attenuation，例如把連續的溫度縮減成「太熱／太冷」，造出一個恆溫器——「我們只是決定丟掉一部分資訊，前提是假設它無關緊要」）；變異度放大（amplification，例如裝一千個恆溫器，去複製無數個你原本無法逐一做出的決定）；以及「以否決進行調節」（regulation by veto）。這些動作「是控制論分析系統時的根本；你總是在以這樣或那樣的方式衰減變異度」,而「光是畫出那些黑箱這個簡單的動作，就是一種衰減形式」。

第5章——標題就叫「沒有圖表的控制論」，因為比爾的書滿是讓人讀不下去的巨大圖表——戴維斯只用文字講解比爾的可行系統模型（viable system model, VSM），這是支撐比爾「管理控制論之父」名號的核心貢獻。模型有五個層次，他用「軍隊」和「管弦樂團」兩個比喻來記：

模型還有兩個關鍵附件。其一是「遞迴／嵌套」：每一個系統一本身又是一個完整的可行系統，這條鏈往上延伸到全球政治經濟、往下延伸到個別人類。其二是「痛苦—快樂訊號」（algedonic signals），戴維斯用「火車駕駛室裡那根紅把手」來比喻——一條繞過慣常層級、橫切所有管理層的緊急通道。可惜「砍掉紅把手訊號的這些管道，正是一種打造卸責槽、並在更高層級節省頻寬的辦法」。

戴維斯立刻把這套工具拿來示範診斷二○○八年全球金融危機：央行是政府經濟管理的一個系統一運作。它們在大穩健時期發展出一種世界觀，「在那種觀點裡，全球金融正在變化的種種結構，並不屬於它們的份內工作」——這是系統四（情報功能）的失敗。資訊就在那裡，但沒有被組織進決策流程，「就只停留為單純的資料」。唯有當雷曼兄弟破產那聲「痛苦的尖叫」拉下紅把手時，央行的巨大能耐才被動用。而更深一層，這是系統五（哲學）的失敗：「它把央行的目的界定成這樣一種樣子，以至於它們沒能理解：某些特定種類的資訊，是與它們有關的。」

三大盲點：經濟學如何接管了決策

第三部（第6、7章）是本書對「我們如何走到這一步」的核心解釋，戴維斯把矛頭對準了經濟學——他自承也是其中一員。

他的論點是：經濟學「是控制系統裡一具重要的資訊衰減引擎」。採用經濟學的思考模式，「會減輕加諸我們統治階級身上的認知負擔，因為它告訴他們：有很多事情，你根本不必費神去想」。「economist 字尾那個 ist，是意識形態的那個 ist，而不是科學的那個」——它「是一種對用某些特定方式為世界建模的承諾」。

第6章診斷出經濟學的三大盲點：

  1. 李嘉圖式惡習（the Ricardian Vice，借自熊彼得）。戴維斯用李嘉圖的酒／布比較利益模型示範這套四步驟惡習：(a) 做一個剝除幾乎所有複雜性的模型；(b) 做出一大堆經驗相關性可疑的簡化假設；(c) 證明結論由假設推導出來；(d) 「表現得彷彿他們的結論現在已在真實世界裡被證明了一樣」。「每當你聽到一個經濟學家說『不管你怎麼看這些數字』，你都該把它理解成『不管我怎麼看這些數字』。」他指出經濟學那種「非給出一個答案不可」的「建模策略」，逼著它丟掉大量重要資訊。

  2. 對時間與不確定性的壓平。經濟學把「可能未來」變成「條件性計劃」空間，用加權平均算「期望值」，但機率「並不是大自然提供給你的；你得自己對它們做假設」。塔雷伯的《黑天鵝效應》在經濟學家之間「大致上是被一陣緊張的笑聲所迎接的」，因為它問了一個很難回答的問題：俄國革命、新冠、氣候災難的風險究竟是多少？由此誕生了「經濟人」（Homo economicus）——一個能讀出別人心思、對未來瞭如指掌的理論造物。

  3. 對「市場即運算織體」的信仰。每當解釋出現空缺，「你總是可以辯稱：市場會把它擺平」。市場被當成「一台魔法計算機，能有效率地抵達那個可能存在的最佳解」——這正是比爾那座「會運算的池塘」的夢想（「拿出來的比放進去的還多」）的經濟學版本。戴維斯犀利地說：「現代經濟學真正的盲點，就是經濟本身。」

第7章把這套分析延伸到管理與會計。一個驚人的事實：「大多數經濟學家看不懂資產負債表」——學歷愈高、學校愈有名望，翻開過公司帳目的可能性反而愈低（出於一種怕被歸入較低社會階層的恐懼）。但會計是「管理的語言」。戴維斯區分了兩種會計：管理會計（流程控制與成本分攤，是變異度放大的工具，直接與決策掛鉤）與財務報導（向出資者報告，必須前後一致、按固定時程公布——本身就是一種資訊衰減）。

這裡藏著一個會釀成大禍的盲點。一九六○年代電子計算機普及時，「一個沒有任何人做出、卻後果重大的決定」發生了：公司「委製了一套電子版的、和它們從前用紙張與打孔卡所遵循的同一套簿記與報導流程」（比爾的名言：「招攬人類最偉大的天才，然後派他們去背電話簿」）。於是複雜度的增加「被遮蔽得讓那些本該管理它的人看不見」，公司「開始出現幻覺」。戴維斯用一個護膚霜公司的假想案例展示:財務報導的數字會讓桶裝平價產品「顯得」遠不如奢華產品賺錢，於是顧問建議外包製造——而行銷研發的成本其實並不會消失。「一套會計系統，幾乎就是一個完美的卸責槽——就連負責建構它的人，也未必明白自己究竟在幹什麼。」

第7章還順帶解剖了管理顧問業（「借走客戶的手錶、再告訴客戶現在幾點」）為何天生討人厭，以及學院派管理科學為何太弱、太分裂，無法像經濟學那樣為決策者提供一套「身分認同」。戴維斯把這一切總結為一台「失敗引擎」：經濟學的盲點與管理的盲點聯手，產生出一個「會逐漸偏離現實、並開始製造糟糕決定的世界模型」，而且「這裡沒有自我糾正的傾向，因為問題就出在資訊處理系統本身」。所有的恆定力量「運作起來，都是為了把系統維持在它原本的樣子，而不是讓它去適應事實」。

智利插曲：控制論真正的死亡時刻

穿插在各部之間的「間奏」是本書的調劑——比爾那座養水蚤的「會計算的池塘」、教培養皿長耳朵的實驗、用來說明系統四／系統五重要性的「去大腦的貓」（一個失去計畫能力、只能靠眼前處境苟活的組織，下次遇到衝擊就會崩潰）。但其中最重要的是〈與此同時，在智利〉。

戴維斯重述了比爾為阿言德政府打造 Cybersyn 系統（取自 cybernetics 與 synergy）的故事，並戳破最大的誤解：它「並不是想把電腦技術應用到組織一個命令經濟」。比爾真正做的是「協助建立起一套等於是大規模例外管理的系統」。系統包含一間像《星艦迷航記》艦橋的作戰室（系統三）、一個由數百台電傳打字機構成的 Cybernet 網路（系統二），和做統計分析的 Cyberstride 軟體。在一次卡車罷工期間，這套網路讓政府得以監看貨運、確保物資供應——但戴維斯坦言，「幾百台電傳打字機就能跟一整個工業經濟相匹配」這種想法,連讓人忍俊不禁這一關都過不了。

更重要的是它的象徵意義。戴維斯在〈引言〉就說過,新自由主義經濟學家與管理控制論者之間「針對企業的本質與決策的組織方式」的那場辯論，「並沒有用圖表與方程式進行」,而是「用直升機與槍砲」，地點在一九七三年九月十一日的智利總統府。「暴力是一種效果好得可怕的變異度放大器」——一個得不到正當性公眾共識支持的國家,「極可能會把暴行看成唯一可用、能維持自身穩定的手段」。皮諾契政變讓 Cybersyn「甚至連以一種能教會我們什麼的方式去失敗的機會都沒有得到」。比爾此後轉向民主與社會的根本問題，退隱到威爾斯一棟小屋。

傅利曼、股東價值與槓桿收購：意識形態如何接管

第四部（第8、9章）講「後來怎麼了」，把矛頭轉向米爾頓·傅利曼。戴維斯刻意不把他寫成怪物——「他是一位大學教授、諾貝爾獎得主……如此而已」。傅利曼之所以重要，「是因為他聰明又機敏，能把一整套盤根錯節的觀念，濃縮成一種容易在通訊網路裡傳遞的形式」。「再強調一次：這不只是米爾頓·傅利曼，這是系統在說話。」

戴維斯細讀了傅利曼一九七○年那篇〈企業的社會責任就是增加利潤〉。他指出貫穿新自由主義的主線是「一種深沉、近乎虛無的、對人類判斷的不信任」——市場交易「是唯一一種你能確信其誠實的人類關係」（傅利曼那段「四種花錢方式」的名言）。傅利曼主義「沒有把公司當成一個決策系統來分析，有的只是一個個做決定的個人」——它要求企業經理人「把自己的道德人格一分為二」。戴維斯認為這是「一個很有吸引力的謊言，因為它把卸責槽和視角的轉移結合在了一起」：管理階級最大的焦慮是隨企業變複雜而喪失個體性卻仍要承受批評，傅利曼主義邀請他們把一切惡果歸給一個對「最大化股東價值」負責的「工作自我」。

戴維斯追蹤了語義漂移：「增加利潤」如何被換成「最大化股東價值」（與經濟學語言對齊），又如何被附會上一個根本不存在的「受託義務」（fiduciary duty）。在大公司裡，經理人「可以被指向他們的股價——一台即時運算的機器，會對他們的策略給出一個正面或負面的判決」。

接著是全書最具體的機制解剖：債務作為一種控制技術，以及槓桿收購（leveraged buyout）。債務對放款人是極有效率的資訊管理（「就有點像松鼠養殖場裡的恆溫器」）；但對借款人，「如果一個系統被裝上了一大堆債務，那麼必須付款這件事，就會變成一個壓過所有其他資訊來源的訊號」。槓桿收購的訣竅在於：「這個最大的壞處，其實正是最大的好處」——它「徹底改寫了整個管理系統的誘因」，用「公司會倒」的最後通牒,逼經理人把全副精力集中在生出現金上。真正身陷風險的「是那些仰賴公司作為持續經營實體的人——員工、供應商、客戶與經理人。那些小人物」。戴維斯點名《應用企業金融期刊》（JACF）是「史上意識形態最濃的學術期刊」，以及麥可·詹森如何把傅利曼主義帶上「嚴謹的數學基礎」（代理成本理論）。

第9章把這一切接到當代政治。它講述一場「資本擁有階級與經理人階級之間的階級戰爭」，以傑克·威爾許（曾稱股東價值是「世上最蠢的點子」，但那是雷曼倒閉六個月後說的）的奇異公司為案例：「做到數字」的文化、排名與淘汰、中子傑克。戴維斯引述針織品批發商傑羅姆·李維一九一四年的利潤方程式，闡述資本主義一份「破裂的盟約」——投資階級本應替勞動階級提供景氣循環的保險，而新自由主義「把極性反轉過來」，改用「失業者的後備軍」讓勞動階級去吸收波動（傅利曼的「自然失業率」、葛林斯潘的 NAIRU）。「這看起來像是資本的最終勝利——而它確實是。直到它不再是為止。」

最動人的是第9章末尾對民粹主義的控制論診斷。戴維斯回到比爾向阿言德簡報時，總統指著代表系統五的方塊說的那句話：「el pueblo」（人民）。最高層的決策系統「是經由被決定的人的同意而運作的」，即便在獨裁政權裡也存在一種集體否決權。但 el pueblo「通常連個通訊地址都沒有」；選舉與民調這些通道「似乎被設計成只承載極少幾個位元的資訊」。於是「這樣一條受限的通道，唯一能承載的溝通是一聲尖叫」——這就是莫迪、川普、法拉吉、艾爾段之間的家族相似性，他們每一個都「扮演著一條溝通通道，替一個只想傳達一個位元之資訊的群體發聲，那個訊息翻譯出來就是：『救命！當前的局面已經讓我無法忍受了。』」「媒介本身就是訊息；自由派社會本該回應的，是大眾痛苦這個事實，而非它的內容。」

戴維斯還引入了白廳研究（Whitehall studies）的發現——公務員職等竟是心臟病、中風、癌症最強的預測因子之一,「失去掌控，不只在情緒上令人無法忍受，在生理上也是有害的」。他把這與「絕望之死」、自殺率連結起來：人們「被自己無法處理的資訊壓得超載；世界要求他們做的決定，多過他們有能力做的；而那些本該替他們屏蔽掉這份波動的系統，已經不再盡責了」。民粹運動「許諾了一個更簡單的世界」，但這「等同於宣稱自己有能力逆轉時間的方向」——它們是假的解方。

該怎麼辦：可行重於最大化

第10章開出處方，但戴維斯誠實地警告:可行系統模型「能幫你檢查任何一個提案是否有可能行得通……但它不會幫你生出點子」。不過他提出一個樂觀的論證：既然這些是組織問題、複雜性源頭是組織裡的人，那麼「組織裡的那些人，擁有足夠的變異度與能力，能匹配這個問題的複雜性；問題不可能大過他們」。

他的願景始於一場與布萊恩·伊諾的會面（比爾曾想把控制論「火炬」交棒給伊諾），以及伊諾的生成藝術《七千七百萬幅畫》。這些是「有目的，卻沒有單一目標」的決策系統——它們具有「超穩定」（ultrastability），面對未預料的狀況仍能找到穩定狀態，「但它們的運作，並不靠定義一個目標函數、再設法把它最大化」。「企業應當像藝術家，而不是迴紋針最大化機器。」戴維斯指出這與一九七○年代被遺忘的經濟願景相呼應——高伯瑞的「技術結構」（technostructure）與赫伯特·賽門的「滿意即可」（利潤是約束條件而非最大化目標）。

具體建議出奇地少而集中。第一步是對私募股權動手：核心只有一條（伊莉莎白·華倫八點計畫裡唯一必要的一點）——「任何取得一家營運中公司控制權的主體，都必須為它的債務作擔保」。有限責任對私募股權投資人「扮演的正是一個卸責槽」；把它「收束回它最初的目的——讓不掌握控制權的小投資人，得以出資參與工業資本的購置」，槓桿收購的吸引力就大半消失了。

第二步，也是全書的理論結論，是對經濟學下的一道判決。由約束最佳化的數學結合控制論基本法則，可以推導出三段命題：

任何被設定來把某個單一目標最大化的系統，都有發瘋的潛在可能。 每一個被設定為最大化者的決策系統，都需要有一個更高層的系統在它之上看守著。 你不能讓經濟學家當家做主，至少不能照他們目前這種方式來當家。

因為「任何意在自主運作的決策系統，其最頂層都不能是一個最大化者」——整體經濟系統的統御性哲學「就不能建立在約束最佳化這套方法論之上」。戴維斯安慰經濟學家：這「遠沒有聽起來那麼糟」，最佳化工具不必扔掉，凱因斯說過經濟學家若能像牙醫那樣有用而稱職就算成功了。

最後戴維斯回到他最掛念的問題：系統需要不斷製造卸責槽，大眾不樂見，而他們唯一能表達不滿的辦法又對系統高度破壞。比爾在智利的夢想是一個讓每戶人家扭動轉盤表達滿意度的通道（只做出一個原型）；今天我們有社群媒體，但「我們所做的一切，不過是用電子通訊，去打造出一種更有效率版本的、那項叫做大吼大叫的老派技術罷了」。他主張我們得在面對卸責槽時「放鬆一些」——「我們負擔不起可解釋性這種奢侈品」,重要決定除了會由黑箱系統做出，也會由貨真價實的機器人（如轉換器神經網路）來做。他唯一的猜測是:卸責真正讓人無法忍受的，「或許是那條斷掉的回饋連結」——「當人們覺得自己有被聆聽時，他們對一切事情都會少生很多氣」。

全書的最後一句，把書名變成了一個必須認真說出口的句子：「在未來，『我怪罪這套系統』是一句我們得習慣去說的話——而且是照字面意思認真去說。」

最值得討論的幾點

第一，本書最大的貢獻是給了「沒人負責」一套精確的語言。 「卸責槽」與「問責的基本定律」極具抽取力，幾乎可以立刻套用到任何官僚經驗上。但戴維斯誠實地不讓它變成廉價的犬儒——他親手把自己的「萬有大理論」推翻了兩次（卸責槽也是法治；問責潰逃未必出於壞心），這種自我拆台反而是全書最可信之處。

第二，把 AI 焦慮重新框定為一個老問題。 「迴紋針最大化機器」與「公司」的類比、「AI 倫理就是企業倫理」的論斷，是本書最具當代意義的洞見：我們害怕演算法黑箱，卻忘了組織黑箱已運作了幾世紀。最終那條「任何最大化系統都有發瘋潛能」的推論，把 AI 對齊問題與整個新自由主義經濟連成一氣。

第三,論證骨架略顯一頭重一頭輕。 前八章的診斷紮實精彩，第10章的處方卻單薄——戴維斯自己也坦承管理控制論「並沒有給出任何線索」該如何達成深刻的社會變遷。「對私募股權動手」這唯一具體政策,與前面宏大的系統分析之間，存在明顯的落差。這既是本書的誠實，也是它的局限。

本書關鍵觀念清單