【IxDA 互動快板 #9】Microsoft AI Sr. UX Design Lead 陳翰申：結合對人類需求以及 AI 的深度理解，為人機共生時代進行設計
長文提醒：本文字數約為 5500 字，閱讀時間大約為 15 分鐘。也許很適合準備一杯咖啡在旁慢慢觀賞。一時無法閱讀完畢也可以加入書籤哦！如果準備好，我們就出發囉！人工智慧的浪潮來襲，產品設計又該如何跟上這股潮流？作為人工智慧產品的設計師應該要具備哪些能力？該如何準備自己？許多的設計師朋友也許對這個設計趨勢充滿好奇，也有許多疑問。而講者陳翰申，或許是解開迷津的絕佳人選。
翰申目前在 Microsoft AI & Research 擔任 Senior UX Design Lead。過去他在 IBM 的 Watson 團隊擔任設計師，之後到 Google 帶領 Google Home 設計團隊，擁有相當豐富的 AI 產品及跨平台產品設計經驗。此外他也在帕森斯設計學院 BFA 課程教授「認知人工智慧界面」，並且在 Microsoft 內部人工智慧課程任教。
這次的 IxDA 互動快板，翰申帶我們了解 AI 產品設計的深度及廣度，並舉許多生動案例，說明設計師在 AI 時代可扮演的角色。
這篇現場筆記會談論到的主題
1. 什麼是 AI ? 什麼是 AI 產品？
在我們開始談 AI 產品設計之前，需先界定好現在談論的是 AI 的哪個層次。關於 AI，最寬鬆的定義是「任何可以讓電腦去展現人類智慧的技術」。在這些技術當中，機器學習 (Machine learning) 及深度學習（Deep learning）是我們最常聽到的兩個種類（其各自可以再區分出許多技術）。每一種 AI 技術都有其原理、運作特性以及擅長處理的問題，唯有清楚界定目前討論的層次，才能知道設計該解決的問題有哪些，開始有意義的探索與討論。
翰申今天的分享中，大多數的例子是運用到機器學習的 AI 產品，因此我們會在機器學習上多加以著墨。機器學習是實現人工智慧的一個途徑，其背後的演算法主要是讓機器從資料當中學習到規律，並利用這些規律來對未知狀況進行預測。機器學習主要可以達到三種結果：
- 分類（Classification）：將未知資料歸類到已知的類別。
- 分群（Clustering）：將資料按照其特徵（features），將相似的資料聚集為同一群體。
- 迴歸預測（Regression）：透過已知的資料特徵，對未知資料的特徵進行預測。
上述的介紹或許有點粗略，畢竟機器學習還有許多種類以及演算法。我們此時就先大致暸解掌握機器學習是什麼、可以辦到什麼事即可。
談完 AI 的層次以及機器學習，緊接著是 AI 產品 —— 應用某些特定 AI 技術的產品。這些產品可能會是有形的（tangible），像是 Google Home 一系列的智慧居家產品，包含智慧門鎖、空調控制器等；也可能是無形的，例如一個協助醫生判斷癌細胞的機器學習模型（後面會再提到），也能視為 AI 產品。
談論 AI 產品時，難以避免去講到背後的技術。為了在敘述上稍作簡化，在這裡跟大家說明：這篇筆記多數的狀況會使用「機器學習模型」去代表 AI 技術。
好了，行前說明大概就到此，讓我們出發前往翰申帶來的 AI 產品設計世界！
2. AI 產品體驗設計的深與廣
「AI 產品的體驗設計該怎麼做？」
翰申認為，目前這個議題尚未有定論。這或許是個好消息，代表 AI 產品設計這領域存在著很大的創新空間，仍有許多富有創意的設計方法可以嘗試；另一方面也是個壞消息，因為缺乏一個穩固的設計方法論，在產品設計過程中可能會遭遇重重困難。同時，當設計師面對這個新興領域時，也會遭遇許多基礎知識層面的挑戰，比如說機器學習的基礎原理。
接下來我們將試著用「深」與「廣」兩個軸度，來捕捉目前仍然模糊的 AI 產品設計概念。
深入 AI 相關知識
翰申以他目前的設計工作來說明 AI 產品的複雜性。例如他最近所面臨的設計挑戰是關於「強化學習」（Reinforcement learning，是一種 Deep learning 運用到的技術）在工業上的應用。在設計應用了強化學習的 AI 產品時，就需要對強化學習的基礎概念、演算法 —— 這些產品的基本性質 —— 有相當程度的理解。
但如果說設計師需要對 AI 相關知識有更深的理解，不禁會產生疑問：「難道設計師真的需要親自跳下去寫 Code？」。
關於這個問題，翰申以他個人在 AI 領域探索的經驗為例，說明搞懂 AI、寫程式這些事並沒有想像中那麼困難。在過去他並沒有資訊工程以及寫程式的底子，但是為了進行 AI 產品設計，自己從基礎理論知識學起，一路學到機器學習的工程面。他也會自己寫 TensorFlow （一個機器學習的程式框架），並提升自己的程度到成為 Google 內部講師的程度。學習的過程是辛苦的，但最重要的是，千萬別因為「自己覺得難」就停止去嘗試與學習。
「沒有其他人能回答我如何進行 AI 的設計，我只能自己去找答案、去理解這世界。」
跨平台設計的寬廣視角
進行 AI 產品設計，除了在 AI 相關知識上需有更深的了解，對產品應用場景也需要有更寬廣的認知。他以之前在 Google home 開發的產品為例，使用者可能會在家裡、車上或是公司使用，而裝置可能會橫跨行動裝置、穿戴裝置以及家中的攝影鏡頭、控制器，這種「跨平台設計」已經成為他的設計工作日常。當不同平台、裝置彼此串連起來，可能就構成了另外一種新的產品，因此對產品的想像需要跳脫出原有的框架。
3. AI 與 UX 設計，從人因工程、人機互動到人機共生
接著翰申帶領我們回顧了科技與人互動的簡史，並試著去定位 AI 時代中，人與機器的互動關係。
在不同的時代裡，人與機器的互動都有著相對應的設計方法論。在工業革命時期，人與機器的互動主要出現在生產製造的場景裡面。為了優化人如何在操作機器有更佳的產出，發展出了「人因工程」這個學門。
在資訊革命的時代，機器扮演的角色日趨多元，人也不僅是操作機器來進行生產，而是透過眼前的各種電腦、行動裝置以及網路來取得服務，「人機互動」成為一個相當成熟的學門，在此時我們也發展出成熟的 UX 設計方法論，來讓互動變得更好。
但是在接下來的 AI 時代，關於人與 AI 的互動，似乎尚未發展出成熟的設計方法？
「此時人類已經不僅是與機器互動，而是借重機器的能力來強化自身對世界的認識與判斷。」
翰申認為，現在人與機器的關係已經更進一步來到「人機共生」（Human-computer symbiosis）—— 人類借重機器的能力來強化自身對世界的認識與判斷。翰申舉了 Google AI 在醫療以及紡織業的應用為例。在醫療的案例中，圖像辨識模型快速地標記出癌細胞的可能位置，再由醫師來進行最關鍵的診斷（例如：是否要開刀）。紡織業則是以台灣的和明紡織為例，透過機器學習模型，幫助服裝設計師快速找到合適布料來進行設計。
在這人機共生的現代，我們也許可以從人類的心智運作方式出發，去思考該如何進行 AI 的產品設計。翰申舉了其中一個例子是由 UX 祖師爺 Don Norman 所提出的模型（Norman et al., 2003）。
在這模型之中，人的感官訊號進到大腦處理，再由大腦送出訊號來進行動作，這個流程之間有三種處理的層次，由最簡單到複雜分別為：反應層（Reaction）、常規層（Routine）及反思層（Reflection）。
針對每一層，我們可以思考 AI 要如何支援該層的心智處理。以一個 AI 門鎖為例，「用以手動或是用手機遠端開門」是協助我們的「反應層」；「離開家 10 秒鐘後自動上鎖」幫助我們的「常規層」；「判定家中遭遇緊急狀況，自動打開門鎖」可能就是協助我們進行「反思層」的處理程序。這個模型提供了我們一個思考框架，去發想人類心智與 AI 產品功能之間如何彼此支援。
此外，雖然最常見的機器學習模型都是單一模態 (Modality)，比如說專注在影像辨識（視覺），或是語音辨識（聽覺），但未來的模型將不會只有影像辨識，而是同時運算來自多種模態的訊息。在模型中各種模態的訊息會彼此交織，將會具備更強的預測能力。多模態的特性，似乎使得模型運算又更像人類的心智運作了。
4. 為什麼要進行 AI 的產品設計?
在探討了人機共生之後，來到今天講題的重頭戲：為什麼 AI 技術落實為產品的過程，設計師是不可或缺的角色？設計師這角色有怎樣的意義？
「AI產品設計往往先有解法，才問這解法滿足哪些需求」
翰申提到 AI 產品設計領域跟以往的產品設計，最不一樣的地方是「先有解法，才問這解法滿足哪些需求」。眾人所熟知的設計思考流程，強調先定義「需求」後才開始探索「滿足需求」的解決方案。但在 AI 產品的領域，由於工程技術、演算法的進展快速，往往是先出現特定問題的解法（例如透過特定演算法可以加速圖像的辨識），才回頭去思考這個解法可以用來符合哪些人的需求以及使用場景。
因此 AI 產品設計過程中，設計師扮演的角色並不是去幫助展示 (Demostrate) AI 更炫更強的技術 ，而是進行設計 (Design) 。翰申與我們分享了三種設計師可以為 AI 產品帶來具體貢獻的方向：
(1) 探索真實使用場景及需求
「設計師在 AI 技術成為 AI 產品的過程中，就扮演著探索人類需求的角色，去挖掘人們日常場景之中需要解決的問題。」
AI 技術要落實為產品，最關鍵問題仍然是：「真實的人類需求在哪裡？」。
我們回到先前提到的和明紡織的案例。在他們的採訪影片中有提到，服裝設計師最大的需求在於：「縮短尋找布料的時間」。在發掘到「服裝設計師在不同材質、花樣的布料來回搜尋」的場景之前，圖像辨識的機器學習模型是無法獨立成為一個 AI 產品的。而設計師在 AI 技術成為 AI 產品的過程中，就扮演著探索人類需求的角色，去挖掘人們日常場景之中需要解決的問題。
除此之外，以「信賴感的設計」為例，機器學習模型的預測結果，往往都是機率性的。比如說 Google Flight 這服務，使用機器學習模型去預測一段時間後的飛機票價，但預測的準確度可能是 90%，也可能僅有 30%。這些機率是客觀的信心水準，需要透過設計，讓使用者對機率產生正確的主觀認知，同時減緩對不確定性產生的焦躁。設計師在此時為機器的冰冷增添了人性的溫暖。
(2) 幫助機器學得更快更好
「透過對於場域、使用者的研究，辨識出真實的使用者需求，並將這些需求轉譯成資料裡面的特徵點。」
翰申分享了自己在帕森斯設計學院講課時，出給學生們的作業。他希望每一個設計學院的學生試著去提出「資料假設」(Data Hypothesis) — — 可以透過資料來加以驗證的假設。他認為設計師不見得要像工程師一樣去寫搜集資料、分析資料的程式，但是需要掌握可以跟工程師、資料科學家溝通的語言，將「人類需求」轉譯成「資料需求」。
例如現在的需求是「找出好喝的紅酒」，但是在資料科學的角度，一瓶紅酒可以拆解成許多的特徵點（features），例如色澤、年份、口感（酸、澀、甜）等等，因此「資料需求」可能會是「某些特徵點可以預測紅酒好不好喝」。設計師應該要能透過對於場域、使用者的研究，辨識出真實的使用者需求，並將這些需求轉譯成資料裡面的特徵點，然後告訴資料科學家，哪些特徵點是比較重要的、哪些相對不重要。
翰申認為設計師也可以扮演這樣的角色：與資料科學家協作，在機器學習模型建構的時期，去「教」機器（Machine teaching）哪些特徵比較重要，加快模型的訓練速度。
(3) 透過設計讓機器更能避免偏誤、更公平
「帶著對人類行為、生活場景的深度理解，以及對資料特性的敏銳度，去辨識出可能有違公平性的資料，幫助機器避免偏誤也更加公平。」
隨著 AI 技術的進展，更多更強的模型不斷被開發出來，但這些強大的模型仍有個風險存在：模型很有可能產生偏誤（Bias），換言之，模型的預測準確度相當高，但是預測結果卻偏離現實狀況。
舉個例子來說明偏誤是如何產生：「分辨好人與壞人的機器學習模型」這個模型使用監獄中囚犯的照片作為訓練材料（暫且假設囚犯都是「壞人」）。我們輸入許多監獄中囚犯的臉孔，模型就會學會「壞人們」具有哪些臉部特徵。當機器訓練完成，只要輸入一張任何人的照片，模型就會告知這張照片是否為壞人。這模型聽起來很理想對吧？
但預測後卻會發現一個很麻煩的狀況：模型竟然會「相當準確地」把每一張板著臉的照片辨識為「壞人」。
造成這狀況的原因是，作為「壞人臉」的訓練材料 — — 那些囚犯照片，往往都是板著臉的，因此機器學習到的規則就是「板著臉 = 壞人」。
上述的例子就是一個典型的資料公平性（Data fairness，暫譯）議題 —— 本身就有偏頗的資料，會訓練出有偏頗的預測模型。這樣偏頗的預測模型如果普及，就可能造成商業或社會上極大的損失（試想板著臉的人都被懷疑是壞人，會是多麼誇張的誤判）。
關於資料公平性，就算我們暫且拋開道德層面的辯證，這也會是個產品「品質」的議題，因為偏頗的模型顯然無法幫助人們更準確地下判斷。設計師在此時夠帶著對人類行為、生活場景的深度理解，以及對資料特性的敏銳度，去辨識出可能有違公平性的資料，幫助機器避免偏誤也更加公平。但為了對資料有更敏銳的覺察，設計師無可避免地要拓展 AI 相關的基礎知識。
5. AI & UX 設計流程
翰申過去曾在中研院以及 Google 內部帶領 AI x UX Design 工作坊，並提出一套自己的設計流程，我們在這裡節錄了翰申的設計流程中最主要的 9 個問題。透過這些問題，可以引導設計師以及 AI 技術專家一同進行思考。
- What are user needs and problems? （使用者的真實需求，以及他們面臨的問題？）
- How do people address the task today?（在不使用 AI 技術下，一般人們如何解題？）
- Should I use ML for this problem? （有使用 Machine Learning 的價值嗎？）
- What is your ideal outcome?（你期待需求如何被滿足？問題如何被解決？）
- What is the prediction that can help user make decisions? （有哪些預測結果能用來協助使用者進行決策？）
- What are the successful/false metrics（這個解法可以用哪些指標來來衡量成功與錯誤，並進一步用來訓練模型？）
- What kinds of example you want the model to do?（你期望這個模型可以用來處理哪些真實世界的案例？）
- What are labelings and features in your example?（在機器模型處理的案例中，存在哪些標籤？哪些特徵點？）
- What kind of data you need with data fairness mindset?（有哪種原始資料，你在處理的時候需要考量資料公平性？）
結語
翰申在這場分享所帶來的內容相當豐富，很可惜在篇幅上很難涵蓋到所有內容。不過翰申也推薦許多外部的參考資料，例如 Google Design 的 People + AI research 團隊所寫的 Guidebook 以及部落格，另外還有其他參考資料放在文末，有興趣的朋友可以前往探索。
進行 AI 產品設計，勢必得更頻繁地在技術與設計之間來回跳躍。翰申提到，當自己踏入 AI 產品設計，深入裡解 AI 的技術以及應用層面，也回過頭對於「UX Design」的內涵產生有了更多層次的理解，例如過去總是習慣假想一位 User 在使用產品，但有沒有可能是 Users —— 同時有多位 User 各自在不同平台使用產品；又例如，成為機器學習模型的訓練師，將 User insight 帶進產品的演算法，讓產品更有能力去幫助使用者。
「台灣結合許多優勢，不一定樣樣得跟在矽谷後面，而是可以走得相當前瞻！」
關於 AI & UX Design 的結合，翰申相當看好台灣在這個領域的前景。主要原因在於台灣的代工產業基礎，提供 AI 產品所需要的硬體生態系，而且台灣備齊了開發 AI 產品的過程所需的人才，這些人才素質也能排上世界的前幾名。在中美貿易戰的大局勢之下，許多美國企業也紛紛離開中國，轉而投資台灣。時勢、硬體資源以及人才等優勢，將為台灣帶來相當多的發展機會。他也認為，在不久將來，台灣最缺乏的人才會是 AI 產品的 Product Designer 以及 Product manager，如果有志往這領域的朋友，可以努力在技能與知識上準備好自己。
翰申鼓勵各位主動地接觸 AI 相關知識以及產品設計。他也期許各位在這個充滿機會的時代，勇於面對混沌未明的狀況，大聲地主張自己的設計理想。
反思：從使用者研究的角度來看 AI 設計趨勢
我作為一位使用者研究員，也不斷地在思索自己在這股 AI 浪潮中的定位。聽完翰申的分享。認識到 AI 時代的產品設計，使用者研究也具有相當獨特的價值。無論是在質性的人類需求洞察，或是將「人類需求」轉譯成「資料需求」，研究員都可以為產品設計團隊帶來貢獻。
得知自己可以幫上忙的同時，知識的重量也壓到心頭上。使用者研究員的任務是將人類需求帶到團隊，轉譯為設計語言；不過在 AI 產品「轉譯」工作上，僅僅知道使用者一方的知識是不足的，也必須要熟悉 AI 的基礎知識。學習這條道路似乎看不到盡頭，但是為了看見更加有趣的景色，也只能勇敢前進了！
最後想表達感謝。單憑我一人的記憶是無法完成這篇現場筆記的。筆記能趨於完整，想感謝 IxDA Taiwan 直擊小組提供許多現場素材；筆記手 ，以及筆記小組協助審閱稿件，在文章結構上給予灼見。更要感謝翰申花了時間與我來回討論，給予許多概念解釋上的建議。這篇文章有了他們才得以完成。
延伸參考資料
- Google AI Guidebook（https://pair.withgoogle.com/）
- 可以透過簡單的視覺方式瞭解機器學習: Teachable machine
- Google Design 的 People + AI Research Blog
- Marvin Minsky 所寫的 The Emotional Machine ，是早期探討人機關係的書籍，在這時代仍深具參考價值。(Wiki page: The Emotional Machine)
- 關於 AI 可能產生的偏誤以及資料公平性，也是比爾蓋茲在 2019 公開信 呼籲大家重視的議題。
- 如果想持續關注 AI 相關的設計議題，也可以追蹤翰申的部落格（https://www.facebook.com/HanAIUX/）
感謝各位觀看本次記錄 IxDA Taiwan 的活動記錄與感想文章。
若你喜歡本篇文章的內容，請你也給我們鼓掌與關注作爲鼓勵；
若你發現本篇內容有些錯誤，也請你不吝給予我們指教。
Copyright：圖/文 @IxDA 直擊小組。
更多精彩的活動照片，請參考 IxDA Taiwan 粉絲專頁：http://bit.ly/2XJ23M0
感謝各位的閱讀，我們下次再見！
