數位科技系列:談數位科技一源多用的「內核心」與「外創意」

施 登騰
數位轉譯職人誌三刀流
25 min readJun 9, 2019

從文氏圖Venn Diagram的邏輯分析談起

文氏圖。圖片來源:https://www.lucidchart.com/blog/venn-diagram-symbols-explained

Venn Diagram文氏圖是在不太嚴格意義下用來呈現不同事件/元素/類別之群組/集合關係的示意圖。各類集合體是以圓形表示,兩個圓形間的交集部分就表示其間的共同元素與邏輯聯繫。也因此文氏圖尤其適合用來表示集合體之間的「大致關係」,並用來推斷與思考不同事物間的關係。(資料來源

這樣的圖示用在創意思考與邏輯分析上,常是以分析與歸納不同事物/觀念等群組間的共同集合關係為主,直探所分析群組間的核心交集關係。也因此在分析的邏輯上,都以從外部往核心的關係探索為主。然而,以一源多用的價值來說,更致力於從核心往外的多元應用,以及確認技術與觀念源頭後的創意發散。

文氏圖所示之集合關係與邏輯。圖片來源:https://www.lucidchart.com/blog/venn-diagram-symbols-explained

個人也是文氏圖的愛用者,常常在課堂上用來呈現跨域技術、多元觀念聯繫之關係與交集,作為核心技術與觀念的說明,也鼓勵有系統的往外延伸與創意開發。關於創意這件事,個人是鼓勵具有實務效益,並支持「entrepreneurial in action」的創業思維與行動。

個人板書紀錄。

擔任MIT Media Lab主任的伊藤穰一 Joi Ito曾在其合著的【Whiplash: How to Survive Our Faster Future】中說:

為放大創意成果,實驗室成員必須從「答案是什麼?」、「什麼會被問到?」、「要遵守什麼?」等制式編程中解碼。……..不需許可就能自由行動。
“In order to maximise the creative output of each person in the Lab, people often have to be deprogrammed from needing to know what the ‘right’ answer is, what is being asked of them, what they need to comply with in order to ‘pass.’ ……..It’s the freedom to act without asking permission.”

伊藤試圖強調「不服從(disobendience)」的創意價值。但是說真的,要彰顯所謂的不服從的自由,也要知道讓自由受限所謂的「規則/教條」是什麼?在突破的道路上是要有「障礙物」的,直探核心的一擊中的就是「精準」、無懼障礙的一路前行才是「突破」。

但個人就一向不是心靈導師,所以這部分就少說些。直接談談所謂的「一源多用」。

一源多用的「內核心」與「外創意」

會從數位科技去談「一源多用」,是基於以下理由:

  • 成本高:數位科技專案開發之時間與費用成本均高,不管是作為公司運營、開發策略,都有必要使其所運用的技術有「模組化」的規劃。
  • 組合多:數位科技專案多是不同數位裝置、軟體程式、視覺設計、互動方式的配組,因此存在其他的組合可能。
  • 變化快:數位科技是處於不斷更新的進展或增強狀態,長會因為數位裝置(例如:行動載具、投影機、多媒體螢幕…)、數位工具(例如:kiosk、Kinect、Hololens、VR…)、軟體程式(game engine、arkit、processing 、openframework…)等的版本與技術更新而必須有相對應的選擇與作為。

也因此發揮特定創意、技術、研發成果的一源多用,對於「數位科技」這類技術來說,是相對重要的。

舉例來說,個人曾在【博物館科技系列:Van Gogh沈浸光影藝術展來了!!再談Culturespaces的AMIEX策展】分享「投影設備、技術、創意」的應用。該篇算是個續篇,所談的是Culturespaces這家公司的AMIEX(Art & Music Immersive Experience)策展技術,Culturespaces在巴黎市老鑄鐵廠廠房這個展場,又有新登場的【The Van Gogh Show 梵谷沈浸式光影藝術展】(展期為:2019.2.22~2019.12.31)。

圖片來源:https://www.facebook.com/CarrieresDeLumieres/photos/p.2370915586276757/2370915586276757/?type=1&theater

【The Van Gogh Show 梵谷沈浸式光影藝術展】是緊接在【Gustav Klimt 克林姆沈浸式光影藝術展】這個令人驚豔的投影藝術展後,繼續由Culturespaces的AMIEX策展團隊所推出的大展。沈浸式光影展的藝術作品除了由Culturespaces使用AMIEX策展技術,在鑄鐵場牆面以沈浸投影呈現梵谷的經典畫作外,還有影響梵谷畫風與構圖甚鉅,且為梵谷鍾愛的日本浮世繪等日本藝術品,主題為:【Dreamed Japan, Images of the Floating World】。

博物館科技系列:Van Gogh沈浸光影藝術展來了!!再談Culturespaces的AMIEX策展】】這一篇投影應用專文,還特別改編自此前介紹博物館、美術館、文化展演設施中使用「沈浸式投影」數位科技的四篇專文,從博物館場域的沈浸投影應用、沈浸投影的藝術設計、投影設備與技術等內容,從Culturespaces的AMIEX策展技術,為博物館科技應用取經。且Culturespaces的光影展,除了本身影音式沈浸投影技術的專業研發外,其動態影像設計也得益於高解析度的「藝術家數位典藏圖像檔」,這對於數位典藏加值應用來說,也是相當值得參考的。

博物館科技系列:Van Gogh沈浸光影藝術展來了!!再談Culturespaces的AMIEX策展】配合「Van Gogh沈浸光影藝術展」,並改編之4篇專文如下:

當時就在【博物館科技系列:Van Gogh沈浸光影藝術展來了!!再談Culturespaces的AMIEX策展】文末的【結論】中,有以下的分析與推論:

無論是teamLab或Culturespaces,都展示了專業光影藝術策展公司的商業市場性,雖是以teamLab科技藝術為內容,而Culturespaces是以藝術作品的影音沈浸式展演為訴求。以Culturespaces所公布的營運成果為例:

179萬8千人次參觀/2018年、1萬平方公尺投影面、5000張投影圖像/每場,是所達成的成果,參觀人數比2017年的55萬人,成長達300%以上。以其門票全票12.5歐元計算(約440元台幣),光參觀門票收入就有約791,120,000元的79億元台幣進帳,這已頗為可觀了。

相信就像作品的全球巡演一樣,Culturespaces AMIEX的作品,也會有海外展演的計畫。所以還會在Atelier des LumieresCarrières de Lumières等2個光影藝術展館展期結束後,有機會以巡展方式再創造其他的收益。以在華山文創園區所看的teamLab展覽軟硬體內容來說,這種光影藝術展覽都會根據展館的空間條件進行調整(或降規)。這對已經自2013年就有此類AMIEX®展覽合作經驗的CulturespacesBARCO來說,是有可能將AMIEX®展覽推介到世界各地,使其他地方觀眾也能享受此沈浸式藝術影音體驗。

先不論其規模與技術,這兩家公司所演示的,其實就是「文化+數位」/「藝術+科技」的商業價值與藝術加值,藝術其實不是只能在博物館與美術館。

果然,即使不是由Culturespaces團隊設計,Culturespaces團隊的技術、觀念、成果也影響了像是在泰國曼谷RCB推出沉浸式多媒體藝術展 【從莫內到康丁斯基 FROM MONET TO KANDINSKY】(參考資料)、深圳灣萬象城推出7.8米高星空主題+全新5D體驗的【沈浸式梵谷展】(參考資料)。

圖片來源:https://visionthai.net/article/from-monet-to-kandinsky-river-city-bangkok/?fbclid=IwAR1Ahe69ArrtQyS6gyYR8UrlunzyN7GslKIa3wwUrEo7MV0-wl_4BnG_t50

而曾經在台北華山文創園區展覽過的日本科技藝術公司 teamLab已在東京有了長期定址的展館~「MORI Building Digital Art Museum ~ Epson teamLab Borderless」,但也仍在日本與全世界的數位藝術展中看看到他們的科技藝術作品。teamLab公司很清楚公司的專業營運「產品」,所以透過適當的數位技術模組化,使得teamLab公司可以在全世界各地,根據預算、展館、展品的規模去進行展覽內容組合,以及展件的技術調整。

賴婉文於東京實地參觀拍攝。
賴婉文於東京實地參觀拍攝。
賴婉文於東京實地參觀拍攝。

也因此,任何單位與各人要導入數位科技,若想要在不同場域進行實務功能應用時發揮最大效益,那麼,具有一源多用的思考與規劃是有必要的。

基本上,就如文氏圖所示,是在創意思考與邏輯分析上,以分析與歸納不同事物/觀念等群組間的共同集合關係後,「一源多用」必須掌握:向中心聚焦的「直探核心」,以及有貫連系統向外的「創意發散」等兩個面向,分述如下:

  • 向中心聚焦的「直探核心」: 必須直探那個串連起各個群組的核心(bullseye)。就數位科技應用來說,此核心(bullseye)不一定是特定技術、軟體、硬體,也能是個觀念/創意;但這個「觀念/創意」必定是在技術、軟體、硬體支援方能達成。
  • 系統向外的「創意發散」:就如前述,數位科技具有「成本高」、「組合多」、「變化快」等內外部環境因素,為發揮最大效益,「一源多用」必須在各種支援的聯繫貫連下,在不同領域、功能、用途上進行「創意發散」。

就「數位科技專案」的構思企劃來說,具有「直探核心」與「創意發散」是絕對必要的,對於「博物館科技導入」來說,更是如此。

下面就從博物館案例去看數位科技多元之創意/創作應用的「一源多用」運用,並援以說明「博物館科技導入」的構思企劃。

下列範例的「核心」是「臉部辨識」。

  1. Google Arts and Culture的Arts Selfie應用:
    在官網上,「Arts Selfie」是這樣被介紹的:Install the app, take a selfie and discover portraits from international museums.啟動App與個照自拍攝製後,就會進行如下圖的「臉部辨識運算 Facial Recognition and Algorithm」程序,確認其「獨有特徵 A Print of Unique Characteristics」,也就是五官比例、分佈、形狀、大小等。然後從Google Arts and Culture圖像資料庫(目前所知資料是80,000多幅畫作),依據特徵去辨別眾多臉部特徵資料,找出「類似模式similar patterns」的肖像畫。(更多細節請見:【數位轉譯/博物館科技系列:Art Selfie「臉搜尋」所示的「零數位參與障礙」設計】)
    使用者可以透過簡易的「臉搜尋」技術完成全世界美術館/博物館肖像畫的搜尋。Arts Selfie會將原圖、搜尋結果並列,並且提供分享,與進階資訊連結。如下圖。

2. Cleveland Museum of Art的ARTLENS Gallery應用案例:
「臉部辨識技術」在「藝術史」、「博物館科技」方面應用與研究,Google Arts and Culture已經展示了「臉部辨識技術」作為數位典藏資料搜尋的合理用途,Cleveland Museum of Art 的Gallery One/ Sculpture Lens也有「臉部辨識技術」在展示科技上的示範做法,且是知名數位展覽設計公司~Local Project的作品。

3. University of California, Riverside研究團隊的應用:
「臉部辨識技術」在藝術史研究上的應用,也能見到 University of California, Riverside研究團隊透過研發的「臉部辨識技術」,在【FACES: Faces, Art, and Computerised Evaluation Systems】專案中展現研究成果,為15世紀義大利地方統治者Lorenzo de’ Medici的遺世塑像與疑似其面部翻模(Death Mask)間的關聯提供科學證據。(關於Life/Death Mask在藝術史與博物館的應用,可以參考【博物館科技系列:3D列印複製文物~Digital-First Strategy】)

圖片來源:https://phys.org/news/2013-06-application-face-recognition-software-portrait-art.html

4. 美國犯罪博物館Crime Museum的應用案例:
美國犯罪博物館Crime Museum 也有使用「臉部辨識技術」,進行「臉部重建技術 Facial Reconstruction」的應用實例。事實上,此技術也用在許多考古研究上,像是史密森尼博物館在今年五月的網站報導【How Accurately Can Scientists Reconstruct A Person’s Face From DNA?】,就提出一些研發成果。

圖片來源:https://www.crimemuseum.org/crime-library/forensic-investigation/facial-recognition-and-facial-reconstruction/
圖片來源:https://www.smithsonianmag.com/innovation/how-accurately-can-scientists-reconstruct-persons-face-from-dna-180968951/

當然,也有人對此科技技術/研究方法提出質疑,雖然不是針對【FACES: Faces, Art, and Computerised Evaluation Systems】,而是對「臉部辨識技術」提出的。像是【The Truth About Facial Recognition Technology】,特別談到拍賣公司在鑑定「比利小子 Billy the Kid」真偽時,誤用誤信了「臉部辨識技術」能提供的證據力。

確實,這是值得嚴肅面對的問題,在真的成為更具科學信度的的數位技術前,「臉部辨識技術」還有段路要走,而這也是正確的。

圖片來源:http://www.historynet.com/truth-facial-recognition-technology.htm

數位科技一源多用的實務案例

此段論述方式會聚焦於「內核心」的主要技術/觀念/創意,並且盡可能提供「外創意」的各種科技藝術創作、互動設計應用、博物館科技導入的實務案例去支援「一源多用」的論述架構。

動態偵測的搜尋應用:

  1. 「Kinect +Scratch」

「體感控制器Kinect」 即使用很基礎的「Scratch程式編輯器」也能創作數位互動作品(MIT開源檔Kinect on Scratch 2.0)。個人就曾以師生團隊組合方式,在2015年新竹縣政府【喜閱節】展示過雙人互動展示作品。

圖片來源:https://l.facebook.com/l.php?u=https%3A%2F%2Fscratch.mit.edu%2Fprojects%2F141221427%2F&h=AT2TL0YjIRS-v-KleuFieS-DRylRJMrBTYR3wsKVh0jdCfQIEiglY3UPeVXPMxwNkJV7N25uTDhpXio1fA-xdl4_kRPG0Fuk-hE5D8CB34Ux5N0g5nyuhooJZJL4g15qwO52410ogGs

2. Google Experiment【Move Mirror

Google Experiment釋放出【Move Mirror】的開源碼與應用程式。此應用更為簡便,僅需透過網路鏡頭(webcam)即可以進行「動態偵測」,而且透過動態偵測的骨架資料,就能即時連結80,000張圖片資源,基本上這就是「姿勢搜尋」,在功能上類似【數位轉譯/博物館科技系列:Art Selfie「臉搜尋」所示的「零數位參與障礙」設計】所介紹的零障礙數位參與設計。

3. Kyle McDonald 【Sharing Faces

而類似於Google Experiment【Move Mirror】的「動態偵測+搜尋」應用,Kyle McDonald也透過「臉部偵測」技術展示了一件科技藝術作品。
Sharing Faces】就如下面影片所示,在展場互動裝置前的觀眾會先被鏡頭辨識其臉部,並偵測其位置,只要觀眾移動,螢幕上也會即時顯示與其「臉部位置」相對應的照片,這些照片就是在韓國安養市與日本山口縣兩地展場所搜集的數千張觀眾留影,這些留影也就是觀眾操作此【Sharing Faces】所留下的,這樣的數位互動就像是跨越時空的即時鏡相互動,相當有創意。

4. Cleveland Museum of Art【Sculpture Lens】

Cleveland Museum of Arts則透過動態偵測引導觀眾擺出與典藏雕像一樣的姿態,這是以數位典藏資料所創作的有趣數位互動。在歷史博物館也看過相類似的應用。

動態偵測的創藝應用:

1. Cleveland Museum of Art【Studio Play】

此外,如果從「動態偵測」去延伸到肢體舞動創作,那就有更多的例證。像是Cleveland Museum of Art最早的Gallery One版本就設置「studio play」專區,其中有項數位互動就是讓觀眾在大螢幕前舞動,透過肢體操控數位典藏畫作的圖像變化。

2. Google Experiment 【Body, Movement, Language: AI Sketches With Bill T. Jones】

這是間充滿詩意的作品,知名現代舞蹈家Bill T. Jones的舞動被鏡頭偵測後,他的身體、律動有詩意文字相隨,使成動態詩句篇章,是具象的詩詞,也是律動的文句。

3. Jean-Christophe Naour 【Kinect Graffiti】

在韓國創作的 Jean-Christophe Naour使用的Kinect裝置透過Processing創作了以塗鴉形塑肢體律動,或說是以肢體律動創作塗鴉的數位互動作品。

類似的作品還有Karolina Sobecka, Jeff Crouse的【Paik times five】、Daniel Franke & Cedric Kiefer的【unnamed soundsculpture

Karolina Sobecka, Jeff Crouse的【Paik times five
Daniel Franke & Cedric Kiefer的【unnamed soundsculpture

4. Emily Gobeille and Theo Watson of Design 【Puppet Parade

這件作品是在2011 Cinekid festival in Amsterdam推出的。透過手部(手影)偵測,觀眾可以操控數位玩偶呈現上巨型投影幕上,是件由觀眾參與操作而完成的數位互動展示作品。

截圖自:https://vimeo.com/34824490

5. Google Experiment 【Semi-Conductor

Google AI Experiment也有類似的應用,而且導入了AI人工智慧,讓使用者可以透過鏡頭偵測,像一位指揮家一樣指揮樂團表演。

小結

如果談「臉部偵測」就會有以下的技術重點要介紹:(參考資料

  • 任何臉部辨識(Face Recognition)演算都必需從臉部偵測(Face Detection)開始。
  • 臉部偵測(Face Detection)技術也相當繁複,無論是資料庫(Knowledge-based)、模板(Template Matching)、特徵(Feature invariant)、外觀(Appearance-based)、局部(Part-based)等方式。
  • 偵測後進行臉部辨識(Face Recognition)演算法,大致可分:幾何法(Geometric approach )與特徵法(Feature-based approach)兩大類,其功能都指向特定個人資料的連結,也就是辨識出「真實個人」。
  • 除了臉部外觀辨識分析外,也能聚焦在表情辨識(Facial Expression Recognition),五官特徵與動態,也能是重要偵測元素,挑眉、抿嘴、閉眼…都不同。

但就像前面所提到的MIT Media Lab主任的伊藤穰一 Joi Ito所提的理念:「制式形式解碼 deprogrammed」。deprogrammed就必須了解「內核心」:臉部偵測(Face Detection)技術,了解後也必須要有「外創意」的相關應用。

參考資料:

--

--

施 登騰
數位轉譯職人誌三刀流

一位大學副教授教員,同步寫數位展示科技與中國文物鑑定。長期研究與分享「Connoisseur系列」、「博物館科技系列」、「數位轉譯系列」、「數位科技系列」等領域之資訊與知識。所發表之相關專文,目前總數已逾500篇,見:【數位轉譯職人誌三刀流】:https://medium.com/artech-interpreter