《西部世界》到《西方極樂園》-AI機器人的想像與恐懼轉變

LEOCHIH
16 min readJun 28, 2018
西方極樂園 西部世界 WESTWORLD
Westworld(2018),produced by Bad Robot Productions.Image courtesy HBO

由HBO播出的西部世界WestWorld影集第二季(2018)在不久前結束,好評價與高收視讓它得到HBO的第三季續訂,這部由Jonathan Nolan 和 Lisa Joy擔任編劇,製作過星際爭霸戰(Star Trek)及星際大戰(Star War)的Bad Robot Productions所製作的影集,講述了一個由機器接待員所構成的園區,人類可以到此處來體驗不同的生活經驗。表面上在講述一個機器人對抗人類的復仇故事,但實則在探討人類與機器人在心靈意識及生理軀體上的界線模糊。

WestWorld影集(2016,2018)的原型,是由Michael Crichton所編導的WestWorld電影(1973),這部電影當時不但獲得高評價,也成為米高梅當年票房最好的電影,後來還拍了續集Futureworld(1976)。WestWorld(1973)是歷史上第一部使用CGI技術的電影,如今重看WestWorld(1973),實在難以想像那像方塊酥一樣大的點陣圖,能夠在當年令觀眾感到無比震撼。Michael Crichton也在日後將〈WestWorld〉(1973)中遊樂園失控的情節放在他的另一部小說中,並擔任該小說改編電影的編劇,那部電影叫做侏儸紀公園(Jurassic Park [1993])。

在45年後,Bad Robot Productions重新將WestWorld搬上小螢幕,雖然保留了大部分的基礎設定,但也重新針對故事角色、敘事結構、人物關係作修改及劇情添加。從1973年到2018年,整個世界因為網路及電腦的普及而經歷巨變,尤其近年來AI科技的快速發展,讓人類對於AI和機器人的想像產生了一連串曲折的改變。WestWorld(1973)及WestWorld(2016,2018)都是屬於懸疑驚悚的科幻電影,分析探討相同故事不同年代的兩部電影的相異之處,能夠試著了解過去與現在的人們,對於科技的想像和疑慮,以及科幻電影演變的輪廓。

西方極樂園 西部世界 WESTWORLD
Westworld(2018),produced by Bad Robot Productions.Image courtesy HBO

一、角色形象的轉變

在WestWorld(1973)中幾乎所有角色都由白人演員來飾演,而劇中設定的三個遊樂園區域「西部世界」、「羅馬世界」、「中世紀世界」,也都那麼剛好的可以全部由白人來當演員,就連維修中心及控制室的工作人員也一樣全都為白人。少數出現其他族裔的演員是幫忙送餐給主角的印地安女孩,還有幾個一閃而過的非裔臨演,但他們在劇中也都完全沒有台詞。在WestWorld(2016,2018)中就有較多不同族裔的演員參與演出,除了非裔演員Jeffrey Wright及Tessa Thompson,也有韓裔演員Leonardo Nam。在第二季的幕府世界中,加入了真田廣之、菊地凜子、岡本多緒等日本演員,他們也都在劇中不時地說上幾句日語。第二季第八集更是直接從由演員Zahn McClarnon所扮演的印地安接待員出發,且幾乎整集都以美洲原住民族拉科塔族所使用的拉科塔語作為角色自白時的語言。現代好萊塢所製作的文化商品,銷售對象不再像過去只針對美國或是英語系國家,而是可以藉由衛星電視或是OTT銷售到全世界。這樣的銷售體系讓製作方在製作影視作品時,更傾向將文化接近性的因素納入考量,並試著將不同的文化元素納入在作品中。因為商業因素讓影視劇本對不同文化有了更大的包容性,同時也讓不同族裔的演員有了更大的發揮空間。

西方極樂園 西部世界 WESTWORLD
Westworld(2018),produced by Bad Robot Productions.Image courtesy HBO

相較於WestWorld(1973),WestWorld(2016,2018)中有更多角色設定為女性,女性角色的戲份也大幅的增加。有貫穿全劇的霸氣女主角Dolores,也有會心靈控制的偉大母親 Maeve, 還有在山洞中從第一季被關到第二季的技術員Elsie。從人類到接待員、工作層級高到層級低、主角到配角、正派到邪派,WestWorld(2016,2018)在各個不同層面都有女性角色。而WestWorld(1973)的女性角色則多是接待員且形象多是妓女,只有在中世紀世界有一名女性接待員以女王的角色登場。這些差異說明了隨著女權意識的提升,近代女性在影視作品中的地位也有所提升,且更常會在故事中擔任重要的角色。當然,近年來好萊塢男女演員薪資差距過大及性騷擾事件,說明了女性權益在影視產業中還有許多進步空間。

西方極樂園 西部世界 WESTWORLD
Westworld(1973),produced by MGM

而劇中科學家形象的轉變也是非常有趣的一點,在WestWorld(2016,2018)中的科學家形象顯得多元,除了將所有人玩弄於股掌之間的Ford,在第一季最後才發現自己是接待員而陷入迷惘的 Bernard,智慧過於常人且堅持真相只有一個的Elsie,科學家的形象在WestWorld(2016,2018)中得到解放。再加上該劇特殊的敘事方式,讓觀眾無法用過去對於科學家的刻板印象去理解劇中的科學家角色。但在WestWorld(1973)中,科學家清一色是白人男性且一定要穿著實驗袍,在劇情中也顯得相當無能且不重要。其中一段討論園區內接待員故障的情節中,一名科學家的台詞為「我們處理的不是一般的機器。這些是十分複雜的設備,幾乎和活的器官一樣複雜。有的甚至是其他電腦設計的,我們根本不知道他們的設計原理。」這種對於科學家的刻板印象,在Petra Pansegrau(2008)的分析中屬於意外型的瘋狂科學家(accidental mad scientist),使用這種科學家刻板印象的電影通常著重在科學所帶來無法預測的結果,並害怕科學家可以輕易的對他們的實驗失去控制。

西方極樂園 西部世界 WESTWORLD
Westworld(1973),produced by MGM

二、失控本質的轉變

WestWorld(1973)的故事相當簡單明瞭,主角與朋友到西部世界玩,遇到科學家無法控制的接待員失控,接待員殺了朋友並開始追殺主角,最後主角擊敗接待員。劇中對於失控原因解釋為「機器人間傳染病」,失控情況是機器人無法正確執行科學家所給的指示,並脫離科學家的掌控之下。像是原本應該接受遊客求歡的女接待員卻拒絕了遊客,或是一條機器響尾蛇違反指令傷害遊客,這些所謂的失控都只能算是程序錯誤。自八零年代開始,出現許多像戰爭遊戲(War Games)、魔鬼終結者(The Terminator)等科幻電影,這類型的電影提出了一個問題概念,人類是否真的能夠控制自己所創造的賽博格產物(Dinello,2006;Kirby, 2014)。有相當多的影視作品中的科技失控,例如經典2001太空漫遊(2001: A Space Odyssey [1968])或是機械公敵(I, Robot[2004]),其失控情況都是AI對於人類所給予的指令有錯誤或過度的理解。

西方極樂園 西部世界 WESTWORLD
Westworld(2016),produced by Bad Robot Productions.Image courtesy HBO

而WestWorld(2016,2018)中的失控,則是因為機器人意識的自我覺醒,也就是所謂的強人工智慧。Ray Kurzweil(2005)將弱人工智慧(Narrow AI)定義為在特定任務上能夠持平或超越人類的人工智能,而強人工智慧(Strong AI)則是擁有全方位人類智能的人工智能。WestWorld(2016,2018)的接待員們意識到自己是機器人的事實,進而挺身與人類對抗並追求自由。若用比較淺顯的範例作比較,程序錯誤的失控就像一台電腦當機,不管怎麼按Alt+Control+Del都沒效;自我覺醒的失控就像一台電腦突然跟擁有者說想要自由,而不是擁有者的所有物。

這兩種失控形式本質上的轉變,說明了人們對於機器人管理的恐懼,從害怕機器人的「機器」失控,轉移到了害怕機器人的「人」失控。面對程序錯誤的AI的失控,我們或許可以毫不猶豫的阻止它,就像關掉一台當機的電腦。但如果是面對一個意識覺醒的機器人,在阻止的過程中可能就會產生多顧慮和恐懼。在前後兩部WestWorld裡,我們對於AI及機器人的疑慮,從「該如何阻止一台失去控制的機器」,轉移成「該如何面對一個有自我意識的機器人」。

西方極樂園 西部世界 WESTWORLD
Westworld(1973),produced by MGM

三、反派設定的轉變

在WestWorld(2016,2018)中其實沒有真正意義上的反派,所有人都是按照自己的意志做符合自己利益的事。當然,這部影集還未完結,或許之後還會有伏筆。但在WestWorld(1973)中卻有非常鮮明的反派角色,就是由Yul Brynner所飾演的槍手。該角色槍法快狠準,能用超大顆粒的CGI點陣圖從遠處看到敵人位置,且挨打能力驚人,主角必須靠智取出奇招的方式才能夠擊敗反派機器人。這種身體素質強大的機器人反派,在往後的機器人影視作品中常常出現,最著名的該就是魔鬼終結者(The Terminator[1984])中的T-800,各項身體素質都較人類強大且沒有情感,在做物理搏鬥時不會受情感影響,是人類光靠蠻力無法取勝的。

但是若以人類的角度出發,將反派定義為與人類對抗的機器人,那WestWorld(2016,2018)的反派就是Dolores和Maeve。她們一個為了追求自由,另一個為了尋找女兒而開始與人類對抗。有趣的是在WestWorld(2016,2018)中,人類與機器人在身體素質方面幾乎沒有差別,但人類的武器比身處西部世界中的接待員更為先進,這回反而是接待員必須以智取的方式擊敗人類。第二季中面對人類部隊的衝鋒槍和吉普車,女主角Dolores以戰術策略戰勝了人類軍隊。比較兩個文本中的反派特質,發現比較過去與現在對於機器人的恐懼,逐漸從懼怕「機器人的身體素質較人類強大」,轉向懼怕「機器人的智慧較人類為高」。

西方極樂園 西部世界 WESTWORLD
Westworld(2016),produced by Bad Robot Productions.Image courtesy HBO

四、感情劇情的出現

在WestWorld(1973)中,故事幾乎沒有提及感情的部分,唯一的一場感情戲是主角Peter跟酒吧裡面的妓女接待員纏綿前的對話。WestWorld(2016,2018)的故事中則把感情當作一個相當重要的元素,除了Dolores 跟Teddy兩位接待員之間,從原本是按著劇本成為戀人,到覺醒後按照自己的意志去愛彼此。William跟Dolores在經歷了一場驚天動地的冒險後,卻發現被刪除記憶的Dolores重新出現在小鎮上並跟另一名遊客調情,害我很想過去扶好他的綠色牛仔帽。還有Maeve跟女兒之間的親情,Maeve就算知道自己關於女兒的記憶是被植入的,卻也依舊選擇重新踏上尋找女兒的路程。這些情感元素除了在WestWorld(2016,2018)提供了重要的戲劇張力外,也成為推動劇情發展的主要動力。

關於機器人情感的部分在七零年代顯然不是一個被熱烈討論話題,在WestWorld (1973)上映近十年後的1982年,一部關於機器人記憶和情感的經典科幻電影才被搬上大螢幕,銀翼殺手(Blade Runner)。但即使銀翼殺手找來剛拍完星際大戰(Star War)及法櫃奇兵(Raiders of the Lost Ark)而大紅大紫的Harrison Ford擔當主演,當年的票房卻還是相當慘澹。直到多年後靠著錄影帶,才讓該片的難得可貴之處重新被看見,並使得機器人及AI的感情相關主題隨著時間慢慢進入大眾文本之中。自八零年代起,有多部探討人型態的機器人或賽博格的科幻電影上映,這種以「人工產生的人類」為題材的電影,都提供了一個測量人性的標準。觀眾在觀影的過程中比須不斷地問自己,這樣的角色是否能稱得上是「人」(Telotte, 1995;Wood,2002;Kirby, 2014)。機器人的情感在近年來的科幻電影也是相當熱門的題材,如雲端情人(Her)中男主角與AI程式談戀愛,或是人造意識(Ex Machina)中女主角機器人用情感欺騙男主角,利用他來幫助自己逃出實驗室。

兩部WestWorld對機器人感情劇情的從無到有,說明了「人類與機器進行深度的情感交流,這件事有沒有意義?有何意義?」,這樣的問題在這四十五年間進入了大眾文本的視野。人們開始試著將機器人或AI視為「人」,開始去探討將其視為「人」後可能會產生的後續問題。

西方極樂園 西部世界 WESTWORLD
Westworld(2018),produced by Bad Robot Productions.Image courtesy HBO

五、數據搜集概念的出現

在WestWorld(2016,2018)第二季第十集中,終於讓我們看到了整季都在提到的彼端山谷(Valley Beyond),它的真面目其實是遊樂園老闆William為了搜集遊客的數據所建造的鍛造場(Forge),也就是資料儲存中心。在與西部世界中的接待員互動的同時,人類遊客所有反應、對話、想法都被迪洛斯公司記錄下來。而整個樂園之所以每天必須不斷的重新整理,讓每個接待員以相同的位置開始新的一天,就是為了得以準確的測量及記錄人類遊客行為。這些數據庫中針對每位遊客的監控資料,讓迪洛斯公司可以完整複製出每個遊客的心智,若再加上成熟的賽伯格技術,便可達成真正意義上的「複製人」。

這樣的科幻情節不免讓人聯想到,當今各大科技公司無不積極地想辦法獲得用戶數據,以作為開發新服務的基礎或將資料出售來製造獲利。而獲得用戶數據的方式,就是監控其使用行為及個人資料。他們會儲存蒐集到的資料,並進行整合及分析。這使得這些經營者的廣告客戶能夠創建屬於用戶詳細的個人資料檔案,包括這些用戶的個人興趣與網路使用行為。社群媒體基於定向廣告的方式,將這些生產消費者當作一個個的商品,賣給廣告客戶(Christian Fuch,2013;羅世宏、徐福德,2017譯)。Google監控搜集用戶搜尋紀錄及生產內容作為定向廣告的依據,成為Google獲利的主要來源。2017年Google的廣告收入達241億美元,佔總收入的87.6%。Facebook同樣監控記錄用戶的使用行為及個人資料,2018年更被爆出民間公司將臉書用戶數據用於美國大選,以及臉書和中國科技公司共享用戶數據等爭議事件。

比較起來WestWorld(1973)中的迪洛斯公司經營西部世界的模式就簡單得多,遊客以付費的方式來購買娛樂,設定上比較像是傳統的遊樂園。WestWorld(2016,2018)中的迪洛斯公司就像是一間網路時代的科技公司,不但以娛樂來吸引遊客,另外還監控搜集遊客數據以作他用。1973年到2018年,科技公司經營模式也經歷轉變,這種搜集用戶數據作為他用的經營模式雖然受到各界批評,但依舊是當今主流。對比兩部WestWorld,WestWorld(2016,2018)中數據搜集的情節增加,代表了當代社會對於「數據搜集經營模式」疑慮的出現。

結論

從WestWorld(1973)到WestWorld(2016,2018),中間經歷了網際網路、個人電腦、智慧型手機、社群媒體、雲端技術等科技快速發展,四十五年後的人們對於科技失控的想像以較四十五年前豐富許多。不得不承認類似於WestWorld(1973)的劇情套路,依舊時常出現在商業爆米花電影中,但是仍有許多優秀的科幻電影在科技發展的同時,會試著去發覺人們對於科技最細微的疑慮。經過了四十五年,兩部WestWorld最大的差異不是點陣圖的顆粒變得多細,或是場景變得多浩大逼真。而是:

(1)影劇文本從討論「機器人的錯誤失控」轉向討論「機器人的自我意識覺醒」
(2)從懼怕「機器人生理上的堅硬不催」轉向懼怕「超越人類智慧的人工智能」
(3)從「單純將接待機器人當成洩慾工具」轉向探討「機器人情感的真實與否」與「人類與機器人情感交流的意義」
(4)從單純討論「娛樂性遊樂園失控的恐懼」,增加討論對「數據監控搜集的恐懼」。

這些討論面向的轉變,正是整個人類社會對於科技發展疑慮轉變的重要指南。

羅世宏、徐福德 譯(2017)。《社群媒體批判理論》,台北:五南。(原書 Fuchs, Christian. [2013]. Social media: A critical introduction. Sage.)

Pansegrau, P. (2008). Stereotypes and images of scientists in fiction films. In B. Huppauf and P. Weingart (eds.), Science images and popular images of the sciences (pp.257–266). NY: The Routledge.

Kirby, D. A. (2014). Science and technology in film: themes and representations. In M. Bucchi & B. Trench (Eds.), Handbook of public communication of science and technology: Second edition (pp.97–112). New York: Routledge.

--

--