Human Centered AI Design 原則與案例

2019/05/25@三創

感謝翰申在回台一週的緊湊時程間中，特別抽空和大家分享Human-Centered AI Product Design，地點在三創的5樓舉行 。

主講者：Han-Shen Chen (陳翰申)

經歷：

• Sr. UX design lead at Microsoft AI & Research
• UX Design Lead at Google

選入 Google ML Incubator Program，並與Google People & AI Research 團隊密切合作

• Associate UX Design Director at IBM Watson
• Instructor at Parsons School of Design

筆記

翰申一開場便告訴大家：現在是了解這個議題的很好的時期，因為在各式國際因素的影響加上台灣本身的產業優勢，可能這一兩年在台灣會有許多AI 產品出現，大家可以提早準備。

這場分享從翰申的工作背景開始，接著告訴大家設計AI 相關產品時需要注意的概念，並加上豐富的舉例。

從建築到 Human centered AI

翰申大學念建築，對interaction 很有興趣所以到海外求學。畢業後先在agency，後來加入 IBM 開始接觸AI 。他質疑現今的UX 方法能否涉及 AI ，所以開始歸納相關設計方法，也那個時間點也去 Parsons 教授 Interface: Cognitive AI 課程，像是個實驗，學生也有很棒的產出。接著他加入一間新創，後來它變成Google Home 的一部份，開始跟AI Engineer 溝通，設計Home away system ，關於使用者在家時、不在家時要怎麼設計。

👉觀念說明

• Conversation Design 不是做chat bot ，根據不同scenario 改變
• Intermodal = 同一個介面既有 Voice 也有 Graphic ，像手機就是個例子
• Multimodal = 想像有個 assistant 在你家，吃晚餐有不同呈現（媽媽在廚房、小孩房間滑手機、爸爸從機場回來而車上有介面）

Why AI Design?

John Maeda: In reality, design is not that important.

根據麥肯錫報告，重視設計的公司盈利增加 30%，但那是因為以前設計沒有聲音，所以開始重視設計有很大的成長。而現在講到「更廣的 Design」，需要思考從UX designer 變Product designer 。

設計 AI 產品如果沒有設計師有關係嗎?

曾有個案例是有人想做一個能辨別好人壞人的app 。他們用訓練監獄裡的人的照片當壞人，路上的人的照片當好人。後來發現若你笑容易被辨識好人，不笑傾向辨識為壞人，但這是個取樣的偏誤。

Data 取樣有 Bias , 因為監獄裡的人拿板子拍照通常不會笑，那從一開始為什麼要用 visual recognition 來辨別好人壞人？ 為什麼覺得這是對的解決方式？

是否要完整學完整的 ML coding 才能做 AI 設計？

翰申覺得其實不是，因為他也是在 Google 的 ML Incubator Program 從 0 學起，而他想去了解 coding 和設計的世界有什麼不同，並找到溝通語言。

和明紡織布料辨識例子

當 Desiger 做服裝設計，他會把想要的圖樣寄給工廠，工廠再回寄，來可能回耗時 40 天。而 Google team 幫忙建立圖形的資料庫，這樣一掃就知道有沒有想要的圖樣。影片裡的不是最終 product，也許以後可以加上推薦圖樣的機制，要像個 PM 去思考問題。

像這個例子，從 40 天的流程變成兩天就是“ Real humans’ needs “ 。另外很重要的觀念是：當不需要用AI ，就不要用 AI 。

AI 與 UX

我們可能覺得AI是這幾年開始變得很重要，但 AI 和 Interaction 其實有個脈絡。

Industrial revelution – human factor 去衡量人的互動Usibility – user research  , usibility 看 app 的設計與使用

• J. C. R. man-computer symbiosis 人機共生概念
• Augmenting human interellect 是擴增人的能力，而不只是取代人的能力

比如癌症細胞偵測，讓機器很快找到癌細胞再讓醫生判斷。 如此，是共生而不是取代，很快找到癌細胞區塊可以醫生的節省時間。

如果要設計 AI, 要思考回頭思考什麼是 intelligence

The Emotion Machine (Marvin Minsky)做決定的三個層次Senses based：認知層次，像是喊你名字有聽到Experience based：經過學習Thought based： 該不該做？

比如喝咖啡的三個層次是：摸咖啡杯燙到 — 知道要等它涼 — 思考晚上八點該不該喝咖啡

接著假設要設計門鎖

第一個層次 Senses based，假設十秒鐘沒碰它會鎖起

往上提一個層次 Experience based，假設和 7–11 合作每週三送貨來透過人臉辨識會打開

最上層 Thought based，假設設計老人住宅，晚上突然有緊急事情，門要立刻打開

現在很多 IoT 有問題是因為把這三件事當同一件事，可是這是有層級的，人類最自然思考的三個層次。

現在 UX 和 AI 最大問題：Designer 很害怕 ML 很難

我們可以先思考為什麼有 wirefame ? Wirefame 讓設計師和工程師處理 Web Design 時，溝通更方便，而現在 ML Design 沒有溝通橋樑。

AI 是大集合

小到像掃地機器人，大到 AlphaGo 都是 AI 。

我們精準一點講，要討論的是ML。假設有個人想做 chatbot，他有很多設定、有個 Dialogflow，但這還是算 programming。因為 Programming 是 Rules + Data → Answers

但 ML 是Answers + Data → Rules，那當 ML 可以幫我們找到規律、規則，而集合在一起便是 ML Model

ML 基本概念

• Supervised Learning ：比如家裡養了狗，帶牠出去看到貓，漸漸學會分別狗和貓
• Un-supervised Learning：再帶狗去動物園，開始歸類不同的動物
• Reinforcement Learning： 狗接飛盤，對了給餅乾。但會有些Policy ，比如當狗跳桌上，會叫牠下去

再談及 Supervised learning 中的 Classification ，像是學徒去紅酒店上班，分辨好、壞紅酒。

大家可以嘗試 Teachable machine，網站會 mapping 一個動作最像的。

Teachable Machine

https://teachablemachine.withgoogle.com

• Regression：用來預測數值

設計時，要懂不同 model 能做什麼

要做 binary / multiple classification

比如分辨植物給糖尿病壞者可吃不可吃是 binary

另外有個重要觀念是 Confidence Level：簡單來說是預測到底有多準？

如果醫療app 可診斷所有病，不同 confidence level 應該有不同 result，像是當 confidence level 低於 50應該就要說：「對不起我們資料不夠。」

因為建立 trust 很重要。

Design method: WHAT, HOW and WHY

舉例設計場地使用的 app

What：這場地發生什麼事？

How：使用者怎麼和場地互動

Why：問題在哪裡？痛點是什麼？

再到回來，Why： 為什麼可以解決這東西？

How：這設計放回來場景會改變什麼？

What：這是什麼樣的設計？

所以如果現在再做 AI 設計但放回原來的 content 去解決問題，只是在做昂貴的科學實驗而已。我們要思考 AI 是否有為設計帶來特別的價值。

以後AI product 包含: 不需要AI 的部分 + 只需要 narrow AI 的部分+ 沒有 AI 的部分

那怎麼看 AI 有沒有帶來 unique solution?

比如一個案例是為了保護雨林，使用用過的手機偵測聲音。另外，其實使用很多無人機也是個解法，但如果是晚上呢？ 所以用聲音發現是在成本既效率都很好的解決方式。甚至人在森林聽到聲音，分辨也不是很容易。所以這 AI 的確是好解法。

True vs. False and Positive vs. Negative

假設有個放羊的小孩

True positive：小孩說狼來了，狼真的有來

True negative：小孩說狼沒來，狼真的沒來

False positive：小孩說狼來了，結果狼沒來

False negative：小孩說狼沒來，結果狼來了

以False negative最嚴重。 在設計產品時這很可怕。比如設計工作 email，不小心把老闆信當成垃圾信比收到垃圾信嚴重。 或是為了小孩使用網路的安全，寧可 block 可能沒傷害的，不要漏 block有害的事物。每個解法都有可能有 false ，要思考花多少資源做這件事情。

AI 設計，設計師的角色

翰申認為怎麼決定 feature 是 Designer 能幫忙的，他們要有 hypothesis，要有能力經由研究知道哪幾個 feature 是重要的，可以跟工程師解釋。有個很危險的設計方式是有什麼data 就拿來用。比如想做推薦系統，就用以前電訪買過產品的顧客的資料（他們喜歡什麼產品）來訓練。這是 data bias，你已經拿喜歡你們產品的人的資料去分析，那要是第一次來到你們網頁的人呢？

或像是 Amazon 工程師招募系統偏好招募男性工程師，是因為一開始訓練模型時是用現在工程師的資料去訓練。

再來，當大家被問到想像香蕉顏色，可能到想到一根黃黃的香蕉，這是 report bias，忽略了綠色、偏褐色的香蕉。

AI Design Process AI設計九步驟

1. What are user needs & problem

2. How do people address the task today?

3. Should I use ML for this problem?

4. What is your ideal outcome?

5. What is the prediction that can help the user make decisions?

6. What are the successful/false metrics?

7. What kind of examples do you want the model to do?

8. What is the labelings and features in your example?

9. What kind of data do you need with data fairness mindset?

以台灣夜市 app為例，使用者是素食外國人

1. What are user needs & problem ？

素食

2. How do people address the task today?

發現不知道什麼是素的，所以要事先查或是當場查

3. Should I use ML for this problem?

用圖像辨識是不是素食

4. What is your ideal outcome?

可以很快分辨素食

5. What is the prediction that can help the user make decisions?

是 binary classification

6. What are the successful/false metrics?

可能只是為了健康，不小心吃到葷的可能還好

7. What kind of examples do you want the model to do?

那盤食物

8. What is the labelings and features in your example?

食物裡的成分、油等等

接著回到 WHAT-HOW-WHY ，工程師是先知道 data ，再確定要用哪些 feature ，但 designer 應該思考有哪新因素會影響、思考 resource 是否穩定、設計 user feedback等。有些資料若現在沒辦法得到，可以設 interaction 去得到 data。

案例思考

比如印度河水暴漲，後來的成果是可以看地圖預測水位淹沒的地區，所以我們要思考 data 動態的顯示。另外比如尋人服務、災害顯示，AI 的 prediction 怎麼幫助用戶做決定？同時也要考慮到 Confidence Level 才能讓客戶更信任我們

Home away system

Nest introduces Home/Away Assist : https://www.youtube.com/watch?time_continue=4&v=3Dexo7K2MA8

情境：使用者在家不在家、跟小孩在家等等。這是針對家的情境，若大家對家的主題感興趣，可以參考 IKEA HOME research ，每年皆會發。

UX designer 最重要能力是 mapping

這邊有個例子是想像設計自動門鎖。如果出門前鎖起來，那綁鞋帶的時間呢？所以，設計鎖的組想在門梯前要有transistion，但是 security 組認為 transition time 應該是在離開家裡前，所有東西設定好。其實是同一件事情，在門內或門外。但 mapping 後發現其實把 transition time 定在同個地方就可以，雖然會增加工程師的工作，但可以說服他們這對長期 integration 有幫助。 所以 mapping 能讓所有團隊看了知道了解你想表達的概念，是 UX Designer 很強的能力。

結語

翰申覺得台灣很可能變成 AI product 試驗場，像是現在很多 security system 是台灣製造，台灣擁有最好的軟硬整合。現在是黃金時期，接下來可能很缺 AI product designer 和 AI product manager 。而且現在矽谷的 Designer 也在面對 AI 的問題，所以大家要相信自己。

活動最後的Q&A 還有交流時間，大家的反應都非常熱絡！翰申也有告訴大家一些學習資源，以下是連結傳送門：

Udacity 上 Product Design免費課程

https://www.udacity.com/course/product-design--ud509

Machine Learning Crash Course:

https://developers.google.com/machine-learning/crash-course/ml-intro

真的是收穫豐富的一場分享！