[AI-1]為什麼會害怕AI/人工智慧?

面對如火如荼發展中的AI科技,AI 也時常被推測設計speculative design、設幻設計design fiction當作一個熱門的話題,進行設計和討論。AI做為被批判的對象,使設計師(至少我本人)身處於一個矛盾的環境:一、想視AI為一種新素材,提出能夠發揮其最大力量和創造出產值的應用情境;二、同時擔心AI伴隨而來的負面影響:文化面、社會面、使用者心理面的抗拒。簡單來說,當科技界充滿積極正向發展的態度時,設計師另一半「以人為本」的特質便會要求自己需要變得戒慎小心,甚至是不停邊設計邊質疑:「AI會不會取代人類?」。這一年,有感於設計界對AI的討論風波,除了提出各種AI的批判,設計界是否需要一些不同的眼界和觀念來看待AI。對於AI議題,打算寫三篇,從背景討論至最後推測設計是否有不同的力道,能協助我們重新對AI做更大的夢?其中本篇先來討論為何我們會害怕AI呢?

AI(Artificial Intelligence)「人工智慧」成為一個被討論的大趨勢,不只是學術界、工業界,就連總統候選人都在提及人工智慧的發展。事實上,AI早就遍佈在我們的日常,例如能自動校正中文字的新注音輸入法 (能夠記住常用選字,讓使用者逐漸不用再花費太多心力於選字)、FB的廣告推文(透過你的爬文習慣,推算出哪種廣告可能對你最具有吸引力),都可以算是一種「人工智慧」,它們能夠自主分析數據 (Data),學習並且調適自我行為,因應使用者的不同需求和習慣。透過大數據(Big Data)、機器學習(Machine Learning),人工智慧的應用,不管是小至生活,或是大至整個工廠或國家,引領我們進入一個「工業革命4.0:智慧製造」的時代。

但是,人類也開始恐慌了。當面對這樣能夠自主學習和自我調適行為的智慧物件/機器,人類逐漸無法確定機器如何決定、如何產生出這樣的行為,人類開始意識到,「人工智慧」就如同物件/機器長出一個無法被看透、深不可測的大腦,產生「科技黑盒子」。系列討論也因此展開人類智慧與物件/機器智慧間的比較,例如Alpha Go電腦 vs 世界第一圍棋高手 (新聞: 電腦首勝)、十大未來將會被AI取代的職業 (報導)。事實上,這系列討論也早就在各大經典科幻電影中出現,「人性」與「機性」的比較:

1968. 太空漫遊 2001 Space Odyssey 中的霍爾Hall
駭客任務 The Matrix的前傳,描述人與智慧機器人間的戰爭與矛盾,致使智慧機器決定與人類反抗。
1999. 駭客任務 The Matrix: 人類電池 (Human Battery)
Image for post
Image for post
2004. 全民公敵I. Robot. 描述智慧機器人進化至最後,為了保護人類而殺死人類,改編自1940–1950的Asimov艾希莫夫小說。
Image for post
Image for post
西部世界 westworld,討論智慧機器人如何自我進化,並從人類手中奪回「記憶」的權力。
Image for post
Image for post
黑鏡 black mirror,系列影集都在描述人類無法拒絕科技的美味,過度使用依賴的恐懼與影響。

「失控」的AI :其實是害怕人性的投射

從這些經典科幻電影中,我們可以預見人類在歷史上一直對人工智慧有著極大的恐懼,但是這樣的恐懼從何而生?AI具有哪些特性,使得我們會感到害怕呢?同時,我們也可以發現多數的科幻電影,AI總是以一種「新人類」的姿態出現,究竟我們對AI的恐懼其實是對「人性」的害怕?還是單純對AI能力的恐懼呢?

以下用三個點,提出人類對AI的恐懼,其實都是來自「人性失控」的投射,其恐懼可以來自「類人類的設計誤用」、「智慧黑盒子的模糊性」、「不滅不減的永生能力」。

在科幻電影中,從古至今許多的例子中,時常把AI描繪地如人般的長相、行為、智能,但實際上,誰說智慧只能長在人類身上呢?實際上,各處的AI專家早就從1985年開始討論「何謂智慧」:

“The exciting new effort to make computers think… machines with minds, in the full and literal sense. (Haugeland, 1985)”

“The study of the computations that make it possible to perceive, reason, and act. (Charniak & McDermott, 1985)”

“The study of how to make computers do things at which, at the moment, people are better. (Rich & Knight, 1991)”

專家們討論如同非人般的智慧也屬於一種智慧行為,例如像群鳥般的智慧,能夠集體共同飛行相同的方向?例如「How Swarm Intelligence is Making Simple Tech Much Smarter」,討論每一個物件/機器只下達簡單的指令,能集體展現出「群體的智慧」。

由於,許多AI的情境範例,時常以「人」的模樣出現,使得多數人對AI的想像是一種新人類的存在,把自我的人性套用至AI身上,從「像人」變成「為人」,甚至是「超越人」。然而這樣的誤用,讓多數人對AI產生「恐怖谷(見圖)」。「人類」的各種複雜的決定可能來自於慾望的衝動、對生命的渴望、對生存的需求、地位的維護、追求自我的實現等,我們將之複雜的意象,直接投射在AI類人的物件上,因此對其過於相似的特性,而感到排斥與害怕。

Image for post
Image for post

同時,透過類人AI的同為「工具」與「人類」之存在,其時常被科幻作家利用AI暗指「被過度奴役的人類」,透過AI的反撲譴責和懲罰我們的人性;另外,其存在也讓我們對物件、工具們的定義產生模糊,反思自身人類如何透過身邊隨意創造出來的物件們(槍、椅、車等),濫用之和過度滿足單一慾望,對AI的恐懼其實某部分也是害怕面對自我人性濫用的一面。

AI的其中最大特色,也同時是另多數人感到害怕的,其實是我們對於其智慧行為是如何被產生出來的,是無從得知的。AI是需要被餵食資料來學習的,如同小孩、小狗一般,人類可以選擇要餵食哪些營養、教導哪些知識,但是AI、小孩、小狗是如何咀嚼、建構理解?我們是未知的,也被稱為「智慧黑盒子」(見圖)。我們只能夠透過時間,來檢查學習後的AI、小孩、小狗是否能夠產生如我們所預期的行為,例如「乖乖上課」、「不能在家上廁所」。

Image for post
Image for post
https://blog.ml.cmu.edu/2019/05/17/explaining-a-black-box-using-deep-variational-information-bottleneck-approach/

這樣的黑盒子特性,才使得我們會認為AI就像是一個類人的新物種。害怕這些AI將成為「類人類」的存在,產生「人性」,甚至是超越人類,能夠單方面地看透我們的一切,但我們卻無法理解他們的行為與決策,擁有比人類更高的權限可以決定人類的生死,變成「失控」的種族。

Image for post
Image for post
https://mrwolf.com/2016/03/19/harte-hanks-data-monster/

上方描述AI的類人形象引發「人性」的恐懼,而AI的模糊性強化我們對「人性失控」的格外恐懼。AI的第三特色則是擁有「不滅不減」的存在,使人害怕失去能夠將其「控制」和「消滅」的能力。

人總是面對模糊、未知、無法掌控的事會感到害怕,所以我們開始鋪路、架設路燈,把整個環境都攤開的一覽無遺。人類會害怕野生動物,因為他們的行為和反應可能會超出我們的預期,因此,我們開始圈養他們,研究和訓練他們,把他們的行為記錄起來,變成一個對照的寶典,讓我們能夠快速掌控他們的一舉一動,如果無法掌控,便消滅之(例如打蟑螂),避免失去我們對環境、生活各種面相的主控權。不管是什麼生物,我們知道最終如何終結他們,就像各種電影中的超級英雄打擊壞蛋,終結他們的生命,解決這一切的「失控」。

但是AI物件就不是了。AI可以是由四處流竄的數據(Data)形塑而成,沒有生命、也沒有靈魂,即使摧毀外殼,只要Data不滅,它還是能重新現身,或是重新蒐集學習,再度重生,我們無法透過生命威脅和終結生命,來對付我們的恐懼。同時,這樣的不滅能力其實忠實呈現出創造者人類對永生的憧憬,例如許多科幻電影也都呈現,最終人與AI如何結合,讓人能延續自我生命的橋段,;但在科技開發的階段中,人類又害怕在探索的過程中,不小心創造出一個新物種,優先比人類達到永生,因而感到嫉妒且想消滅卻無法消滅的恐懼。

小結:害怕的不是AI,而是「自己」

令我們真正害怕的,並不是AI本身,而是害怕我們自己,害怕將會長出與我們類似的「人性」之AI。人性是一個複雜、多樣、難以捉摸的人類特質,然而,在我們的生命經驗中,面對該無窮無境的人性多樣性,讓我們多數體會到有善良就會有邪惡,有光明就會有黑暗。 透過上述描述的AI類人設計、智慧模糊性、能力不滅性,強化我們對害怕「人類」的心情,轉移至「類人類AI物件」身上。說到底,有AI便有後面的創造者,其創造者也會是人,我們害怕的並不是AI多強大,而是後面設計AI人或是使用AI的人之最終目的。

附上一個有趣的Ted Talk:

Don’t fear superintelligent AI. 不要害怕人工智慧.TED talk by Grady Booch, 2016

推測居民-Speculatizen

數位時空下的白色公寓裡,聽著居民的五四三,用違章建築填滿這個異空間!

鄭雨停 Yu-Ting Cheng

Written by

目前台科大、荷蘭安荷芬互動設計博士班 2013-2016台科大設計碩士 2014-2015ArtCenter產品設計 設計幻象、互動時間形、體現互動研究 品牌、產品、平面設計 喜歡分享、教學、實作、合作

推測居民-Speculatizen

數位時空下的白色公寓裡,聽著居民的五四三,用違章建築填滿這個異空間!

鄭雨停 Yu-Ting Cheng

Written by

目前台科大、荷蘭安荷芬互動設計博士班 2013-2016台科大設計碩士 2014-2015ArtCenter產品設計 設計幻象、互動時間形、體現互動研究 品牌、產品、平面設計 喜歡分享、教學、實作、合作

推測居民-Speculatizen

數位時空下的白色公寓裡,聽著居民的五四三,用違章建築填滿這個異空間!

Medium is an open platform where 170 million readers come to find insightful and dynamic thinking. Here, expert and undiscovered voices alike dive into the heart of any topic and bring new ideas to the surface. Learn more

Follow the writers, publications, and topics that matter to you, and you’ll see them on your homepage and in your inbox. Explore

If you have a story to tell, knowledge to share, or a perspective to offer — welcome home. It’s easy and free to post your thinking on any topic. Write on Medium

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store