大數據的傲慢與偏見 Weapons Of Math Destruction

• 作者：Cathy O’Neil ；譯者：許瑞宋
• 評論人：Bobo
• ISBN: 9789865695927

在這個科學主宰人類思考時代，大多數人都會認為經過精密運算的結果絕對優於直覺判斷。同時，人類也相信，「數學」是在理性推斷的過程中最為客觀及精準的工具。數學確實不會騙人，會騙人的其實是利用數學的人。聰明的人們有意或無意地用數學包裝自己的偏見及謬誤，營造出一個看似準確客觀的推論結果。

「模型」是現實的簡化，而「數學」則是描繪這個模型的工具。現代社會極度要求效率，然而人們沒有時間重複一次又一次的動作，因此聰明的人們根據現象設計出了數學模型，如此一來，只要給模型它所需要的值，它就會幫我跑過我所設計過的複雜運算，最後我只需要根據模型給我的結果採取行動。

這個看似合理的過程仰賴一個前提，那就是我所採用的數學模型正確無誤。事實上，許多人或甚至是科學家在建立模型時，時常加入了自己的偏見，或是並未設計反饋系統，導致這個模型成為一個不健康的模型。本書書名Weapons Of Math Destruction是改自Weapons Of Mass Destruction，意謂著作者將數學模型拿來比擬大規模毀滅性武器，而事實上，前者的殺傷力可能不亞於後者。

美國的華盛頓特區為了淘汰教學品質不佳的中學教師以改善教學品質，地方政府採用了一套教師評鑑系統。然而該系統卻給予一位頗受家長好評的老師極差的負評，導致該名教師被學校開除。本書作者分析其中原因，她發現該系統主要仰賴的是學生在考試上的表現。很不幸地，那名家長口中的好老師不是只重視傳授知識，她將部分學生在校的時間用在品格教育及諮商輔導上。如果這套評鑑系統繼續運作下去，恐怕越來越多的老師只會要求學生考高分數。而這也衍生了另一個問題，部分教師為了怕評鑑分數不及格，他們開始協助學生作弊。而那位被開除的老師的前一位老師就是用這樣的方式拉高班上學生的分數，而在那位好老師繼續帶領該班級時，學生只是用實力考出一般水準的分數，就因此導致一位好老師失去了工作。

上述的數學模型存在在兩個大問題。第一個是模型設計者把自己的偏見加入模型，他認為評斷一位老師最重要的是學生在考試分數上的進步或退步。第二個是這套模型沒辦法獲得反饋，一個好的模型會根據得到的結果不斷進行自我優化，然而這個評鑑模型在決定誰要被炒了之後就沒有後續了，這個模型也不知道自己所開除的人究竟是不是不良教師。然而很少人會發現數學模型出了問題，主要是因為模型設計者可以辯稱這個模型確實推動學生在考試上的分數進步。

錯誤的數學模型會導致現行情況愈加惡化。美國紐約市的警方採用一種「犯罪預防模型」，該模型會以過去各式犯罪發生的地點來預測某時某地發生犯罪的機率，而警方只要在該處加強盤查便可預防犯罪的發生。然而此模型不僅無助於改善犯罪，反而還加劇了白人對於白人以外人種的偏見。主因是，拉美裔或非裔本身就是警方容易盤查的對象，而盤查次數一多，搜出毒品、槍枝的機率也相對較高，而這些事件被加入到模型後，模型會認為拉美裔或非裔社區有較高的犯罪率，因此建議警方再加強巡邏，使得警方又搜出更多的非法物品，一個惡性循環變因此而產生。不只是這樣，警方將許多拉美裔或非裔關入監獄並無助於改善犯罪率，他們在出獄後又回到了原本的社區。警方及一般白人民眾卻僅憑抓了多少人就判斷這是不是一個好模型，而無視了這模型所帶來的傷害。

本書在教育、治安、金融、商業等各個方面舉出有問題的數學模型，而在這個仰賴模型做決策的時代，不管是設計者或是使用者都必須要以更謹慎的心態來看待這些足以毀滅一切的數學模型。