那些年，社群媒體做過的鳥事
「Ruined by Design」讀書筆記 (2) Move Fast and Break Things
2019 年 3 月 15 日，一位白人種族優越論者在紐西蘭基督城，在夜間敬拜服事期間放火燒了兩座清真寺。他謀殺了共 55 位教徒。他還帶了相機直播他駭人的行為，儘管大眾疾呼下架這些影片，但這些影片仍迅速在各網路平台流竄。這些平台散布影片、大肆傳播、然後吸引使用者黏著度，它們就是這樣被設計去做這些事情。當團隊想要在平台上根除這些影片、或是要平台停止散播，就會發現這是非常困難地。這支影片就在事情發生 24 小時內，光臉書自己就必須刪除 1 千 5 百萬次。它就是設計成這樣。
2018 年 4 月 8 日， Buzzfeed 網路新聞報導，熱門同志約會軟體 Grindr （在當天他們有 3 千 6 百萬活躍用戶）正在把使用者的 HIV 檢驗狀態分享給其他兩家公司。就因為 HIV 狀態被綁在其他個資當中，一併分享出去，沒有人想到這個資料不應該包含 HIV 狀態，它就是這樣被設計的。
2014 年，臉書在他們的平台上做了 60 萬真人的實驗，臉書讓那些人看過量的負面新聞，測試是否會影響他們的心理健康，但臉書沒有經過這些使用者的同意下，直接做測試。如果有人已經有心理健康的問題，他們並沒有機會說不。它就是設計成這樣。
2015 年，一位黑人軟體工程師在推特上發布，谷歌照片的 AI 將他和他朋友的照片被歸類在「黑猩猩」的類別下。 連線（Wired）雜誌報導谷歌已經修正這個問題，只能把黑猩猩這個類別從人工智慧的資料庫中刪除，因為修正方式別無他法。它就是設計成這樣。
2017 年，臉書再加碼，又做了一次有關情緒的研究，藉由分析 640 萬澳洲年輕人在他們平台上的使用行為，這當中包含 190 萬的大約 14 歲高中生，找出他們什麼時候覺得感到最沒有價值，為的是之後對他們下更高附加加值的廣告。它就是設計成這樣。
2019 年 1 月，衛報（The Guardian）報導健身追蹤軟體 Strava 正在發佈軍人在軍事基地慢跑的路徑，而這些軍事基地因為安全因素，通常不對外公開，會在地圖上遮蔽。但 Strava 鼓勵他們的使用者分享他們的跑步路徑，而軍人只是想圍著軍事基地繞跑，結果卻畫出了軍事基地的範圍大小，讓恐怖組織有機會進行惡意行為。但它就是設計成這樣。
2016 年 6 月 18 日，臉書副總裁 Andrew Bosworth 在內部流通的便條上寫下：
我們連結人們，這就是為什麼我們在增長上所做的努力都是正義的。所有可能有問題的聯絡人都引入實踐… 那可能是不好的，如果使用者把它用於負面用途。也許他會犧牲一個人的生命，因為貼出了某個人被霸凌… 也許有人死於恐怖攻擊，而哪場恐怖攻擊正是在我們的工具上策劃的。
所以臉書其實知道自己在做什麼，他們有看到有些人會因為他們的事業而被害，但它就是設計成這樣。
2014 年，移民暨海關執行署（ICE）獎勵 Palantir 公司一份價值 4100 萬美金的合約，讓他們建立一個可以用來追蹤入境移民的資料庫。移民海關考慮用這個資料庫，用來發現鎖定目標，被列在資料庫內的，超過兩千名被強制與父母分離並推入牢籠的嬰孩，因為他們在美國申請的身份為難民。這個資料庫就是由知道這個要被拿來做什麼、被用在誰身上的設計師所設計。它就是設計成要這樣做。
2018 年 7 月 18 日，馬克祖克柏宣稱，對於臉書上猶太種族大屠殺否定論的觀點他可以接受，因為人們有時候就是會把事情弄錯，藉此證明自己的觀點，它就是設計成要這樣做。
2019 年 2 月 22 日，華爾街日報報導 Flo Health 的經期與排卵追蹤軟體，當它的使用者來了月經，或是有計劃受孕，它會通知臉書。Flo Heath 的隱私權政策說他們不會這樣做。而 Flo Health 聲稱這些資料已經去個人化。然而經華爾街日測試後發現，事實上被分享出去的是廣告識別碼，而這個識別碼可以回朔至某台裝置或個人檔案。它就是設計成要這樣做。
2016 年 11 月 6 日，唐納川普獲得 2900 萬的選票，但得票數其實少於希拉蕊克林頓。選舉人團（最早是由精英白人男子設計而出，用來誘使蓄農奴的大州加入合眾國）把這場選舉交到了獲得較少票數的候選人上，這位候選人正是白種優越論者。它就是設計成要這樣做。
這個世界其實沒有故障，它完完全全就是依照設計這樣運行，而我們就是設計者，這意味著我們搞砸了。
設計師應該有勇於出口說「不」和問「為什麼」，這算是設計師基本能力，也是道德倫理的基本框架。如果我們無法問為什麼，我們就是失去評論我們現在做的作品是否符合倫理。如果我們不能說不，我們就失去了站出來奮戰的能力，也失去了對我們作品負責的能力。
上述發生的事情，就是因為我們沒有足夠的人站出來詢問「為什麼」，並勇於說「不」的結果。
我們都是守門員
維克多巴巴納克（Victor Papanek）在「為了真實世界做設計」一書中，提供了開發骨架的路徑，把設計師視為守門員。他提醒設計師，設計師最大的武器就是勞力，只要我們拒絕設計，就不會成為違反道德的幫兇。
沒有任何事情能在沒有我們的勞力與協助下完成。我們必須對我們產品負責，上面會有我們的印記。就像科學怪人（Frankenstein）的命名，就是以製造該怪物的科學家所命名。更糟的是，我們製造的怪物，其實會活得比我們還長久。
在矽谷，沒有什麼機會讓設計師問「為什麼」，因為大家都被要求快點完成任務。「如何」類的問題永遠比「為什麼」來得重要。多快我們可以完成這個？我們如何吃掉大部分的市場佔有率？我們如何打敗市場上的競爭對手？
目前這一代的設計師，都在想辦法怎麼讓工作完成的比快還要更快。似乎成為職涯上的目標，追求速度似乎模糊了一個人的目標。
我們急速發布產品，遠快於有人覺得不對勁之前，後來才知道實際上產品是什麼樣貌，會帶來什麼後果。我們做得越快，其實我們也一直在搞砸事情。
在追求速度以外的另一個問題，則是追求擴張。每件事都要又快又大。現在不是追求在這個領域裡面，成為最好的公司，而是想辦法摧毀競爭對手，把競爭對手想成敵人，直到你可以買下他們那天為止。而問題會像滾雪球一樣越來越大。
臉書宣稱他們有 200 億使用者（其中有多少是俄國的機器人，還在爭論中）。但就像我前面提及，一個百分比的使用者數會是 2000 萬，而這些人被歸類在邊緣案例而被忽略。
我們衡量事物的方式，不止考量盈利，也要慢下來，想想我們做的東西會怎樣影響這個世界，對人們生活的方式有多大的衝擊。然後，我們設計的東西，應該要對人們的生活有所助益，對社會帶來正面影響力。
推特讓它自己免於破產的方式，就是讓法西斯主義者可以暢所欲言，讓 72 歲種族主義敵視外國者可以打破規則，因為他可以幫他們帶來用戶黏著度。所以推特在 2018 年終於償還帳務，並終於達到盈利。傑克多西（Jack Dorsey）對推特上的騷擾和濫用睜一隻眼閉一隻眼。盈利讓華爾街高興、股東開心、投資人歡呼。但是小孩被關進監牢，移民者恐懼，甚有人被殺害。
推特的盈利賠上了民主、得體正直、和世界的安全。
每個在推特工作的員工，其實都看到了這幾年推特的走向。如果他們沒看到，就是他們不想正視問題。因為他們的薪水，就是依賴在他們不知道問題上，如果推特相信自己有問題，就會產生公關問題。
推特員工缺乏責任去問「為什麼」，也不說「不」。當他們同意在這家公司工作，他們的工作就不僅僅是為了公司建立工具，也應該要去瞭解公司如何運作，確保公司不會危害社會。
作者曾找推特的執行長傑克多西（Jack Dorsey）做訪談，但他卻在他的另一個公司見他，作者問他是否有修正平台被濫用的計畫，傑克說他們有在規劃一個演算法，可以修正所有的問題，也小心翼翼地回答，不正面表述。他想做的，只是確保他自己不會挨告，如果到時候出錯，也可以直接推給演算法，而不是自己做的決策，才不會讓自己雙手沾滿鮮血。
推特另一個問題就是，當有法西斯主義者在上面大發厥詞的時候，相對的，有多少人被消音。我們怎麼可以號稱言論自由，確讓許多人被消音沈默。因為這個系統只在保護霸凌者。
矽谷金童人人都愛演算法，他們已經開發了許多年，但是即使是最好的演算發還是沒能解決問題。作者認為依靠演算法做事，其實就是沒有擔當。
設計師為誰而工作？
作者有近二十年的工作經驗，他學到很多事情，包含在開始做客戶案子前，絕對要好好坐下來談談自己是怎樣的人，然後工作內容是什麼，確認大家的想法一致之後才簽約。不然就可能專案後面會發生爭執，例如客戶就會說「付錢的是我，照我的意思做！」所以作者都會先向客戶是先闡明：
雖然你可能會雇用我們，可能還是你付的設計費，但我們並不為你工作。我們是來解決問題的，而且我們相信它需要且值得被解決。我們是為了受這些問題影響的人們工作。我們的工作是照顧這些受影響的人，因為他們不在這間會議室內。而且我們必須了解，不管任何情況下，設計都不應該讓這些人曝於風險。
其實很少顧客真的會拒絕和你合作，多半我們收到的回應是，這也是他們想要的。而且更重要的是，我真心相信我說出來每一個字。
作者再次提到醫生的執業誓言，雖然不保證醫生就不會做違反道德的事情，但至少如果他們違反誓言，就無法宣稱自己毫不知情。也因為他們有了這個誓言，不管在哪裡工作，他們都要遵守這樣的道德規範。如果違反誓言，還可能丟了執業證照，無法再當醫生。
雖然如果醫師沒做好他們的工作，患者會往生，但是不良的設計也會讓人們失去生命。
2017 年英國公共衛生皇家學會，公佈了一個關於社群軟體如何影響青少年心理健康的研究，他們發現在 2010 到 2015 年間，青少年自殺比率增加，而在之前二十年是逐年下滑的，除此之外，焦慮、抑鬱、自慚形穢的相關症狀也跟著增加，研究指出：
社群媒體比香菸和酒精還更具成癮性的問題一直被提及，但是現在它更奪去不少年輕人的生命，當我們在討論青少年的心理健康問題時，我們再也無法忽視社群媒體的影響。
作者直言，在社群媒體工作的人，他們基本上就是在殺害人們。
設計師不在只是移動畫面上的像素而已，我們在打造一個複雜的系統，會觸及人們的生活、摧毀他們的人際關係、散播仇恨、危害他們的心理健康。如果我們做好我們的工作，就會改進人們的生活，但是如果我們做得不好，就會有人因我們而死。
所以把設計和醫療專業作比較，是貼切的。
我們的沒效率才是傑出的地方
作者有一天晚上搭輕軌回家，然後聽到一對年輕工程師在討論舊金山的公共交通運輸有多差，提及城市效率不佳。其中一位提到輕軌站都不同，有時候在地下、有時候在地面，有時候有月台、有時候要由階梯到地面，有時候輕軌開右側車門、有時候左側，如果可以標準化，就會更流暢，效率會更好。
作者覺得對方說得沒錯，的確都做得一樣的話，效率會提升。但是我們真的喜歡生活在這樣的地方嗎？大家都遵循相同規則、吃同樣的食物、穿一樣的鞋子、投一樣的票、說一樣的語言。
作者說當他還是菜鳥設計師時，被教導好的設計就是簡化，讓事物變得乾淨、簡單。我們的城市會更加有效率，如果我們可以簡化所有的東西。
但是作者不想生活在那。
最者擁抱差異化，覺得街道、地鐵、食物都不用一樣，如果一樣會太無趣。就是要不同的人事物，雖然城市可能會不太有效率，但是這樣才是最棒的。
當你想要成為設計師時，你叫要幫忙這些不同的人，確保每個人的聲音都被聽見。有人些會視這些不協調的東西當成程式錯誤而非偉大的功能時，你要挺身而出。
你是我們對抗怪獸的守護網。
社會不用為矽谷服務，但矽谷需要為社會服務。我們大且多元、我們超沒效率。當然我們不想要每件事情都一樣，除了每個人都想要成長茁壯。
心得
矽谷的科技業感覺起來幹了不少壞事，作者拼命抨擊。而的確，這些軟體應用已經深入我們的生活之中，就我自身經驗，也覺得常使用社群媒體，容易感到煩躁不安，也有成癮問題，整天無聊就會想滑一下。還好已經把臉書 App 刪掉了，目前只用網頁版，因為比較不友善，所以我使用時數大幅下降。大家會一直滑動成癮，就是它不斷給你新的資訊刺激，讓你大腦不停分泌腦內啡，讓你上癮。
其實設計出 Infinite Scroll 的設計師很後悔想出這樣的設計，因為這樣就沒有機會有一個提示使用者，該停止滑動了（有興趣的可以看 Netflix 的Abstract：The Art of Design 第二季的紀錄片，其中一集 Ian Spalter: Digital Product Design）。我覺得 Instgram 做得好的地方在於，現在它加入了一個回饋機制，告訴你已經閱讀完畢，不會一直再想喂你新的資訊，讓你一直在平台上花更多的時間，使用者黏著度更高。雖然它是臉書的子公司，但是似乎有在注意一些地方。
關於設計師與醫療人員的對比，以前我也這樣想過。其實使用者就是病患，設計師就是醫生，而研究員是病理師。互相搭配之下，由研究員找出使用者問題所在，而設計師對於這樣的問題提出解決方案，就像是病理師找出問題，而醫生針對該疾病提出治療方針。當然設計師和醫生，對於問題和病因也會有自己的判斷，但總還是有一個第三方的協助，會更為客觀。除了一個治療方針以外，可能還有其他較佳的治療方針，但是如果只有一個醫師的治療經驗恐不夠，有時候會有會議可以讓科內醫師們共同討論，就像設計團隊也會執行設計批判一樣，檢討設計。
但是作者在這裡的類比更為嚴苛，醫療疏失會造成病患生命喪失，而設計疏失，同樣也會造成使用者生命喪失。但的確事實如此，除了數位產品所導致的心理問題之外，實體產品如工廠機具，如果沒有防呆設計，可能也會造成因為人為因素而造成的憾事，或者是大眾運輸工具警報機制等設計，又或者台北大巨蛋的建築設計，是否以嚴謹的方式考慮緊急狀況下人員的疏散，或是以商業營利為重？
而設計師不停地詢問「為什麼」也是很重要的一件事，這不單僅是為什麼公司要這麼做的問題，而是做設計的時候，我們也會問自己為什麼要這樣設計，是不是還有其他更好的解決方案？
而關於輕軌電車的設計，尤其是開左右側車門這件事。我自己很久以前就有思考這樣的事情。我自己是猜想這樣有助於乘客分布平均，其實反而更有效率。在大家懶得移動的情況下，每隔幾站就換一下不同側的車門開啟，可能可以幫助平均擁擠度？再來可能現實考量，尤其是火車可能會有擁塞現象，常常可能要變更停靠月台，所以門可能也會改變。我覺得它不是為了多元化而多元化，而是有一些應變措施和設計限制。
作者還提出了簡化是否為好事。我不完全同意作者的觀點，我覺得在某些事物上的標準化是好事，例如手機插孔和插頭。有一些事物的標準化，可以幫助我們減少生活上許多困擾。所以多元和簡化並不是重點，重點是我們喜歡和想要怎樣的一個生活，有沒有幫助我們的生活品質？又或者哪種生活你比較喜歡？你喜歡新鮮驚喜感、又或者是可預測理解的單純性，我覺得每個人的答案真的不盡相同，所以說這可能也是另一種多元。
但是我同意作者一個觀點，我們應該要慢下來，不應該一直追求速度、效率，我們應該要有段時間，去做自我反思。而效率這件事情也很有趣，尤其台灣文化，真的就是追求效率，希望能快點有個結果，大家也比較不勇於表達個人意見。而目前我在歐洲的工作環境，則是大家愛辯論，討論出一個各方可接受的方案，才會進行下一步，相較之下，雖然好像沒有效率，常常曠日費時，但是各方觀點都會被考量到，是蠻有趣的職場觀察。
這同時也讓我聯想到民主政治和專制政治，大家會討論民主政治是否缺乏效率的問題，但是民主政治保障了每個人發聲的機會。而民主政治是否真的缺乏效率？與其等上位者一個人的判斷許可，比起揣測上意的人治，民主的法治和分工授權之下，在突發狀況來臨時，或許更為靈活。在台灣新冠病毒的防疫上，有這樣的體會。
如果你（妳）喜歡這篇文章，請給予鼓勵
拍手👏10下代表你喜歡這篇文章
拍手👏20下代表這篇文章對你非常有幫助
拍手👏50下代表這篇文章實在太棒了！！！有任何問題，也歡迎留言給我：）第一章作者提出有關設計師像醫師一樣，有個道德準則的誓言，還沒讀過第一章的，有興趣的可以看看。
已經看過第一章的，可以去第三張看看優步和福斯曾經做了什麼壞事。
