生成式人工智慧（Generative AI）在「閱讀」大量的大腦核磁共振圖後建立了演算法，成功解讀一張核磁共振圖受試者當時正在聆聽的廣播內容，在這個基礎上，人工智慧更進一步從一張核磁共振圖解讀受試者腦海中正在想的故事。
歷經十多年的努力，主持這項研究的德州奧斯丁大學教授胡斯（Alexander Huth）雀躍不已，這是跨出神經科學研究的一大步，可望協助癱瘓的人對談溝通，但不久後，他轉為擔憂這項可以洞悉大腦的技術侵入了最私密的隱私領域。
早在20年前，已經有癱瘓的病人在植入微電子裝置後，能夠透過意識移動滑鼠和控制機械義肢，十年前，科學家成功在實驗老鼠的大腦裡建立虛假的記憶，神經科學最近幾年更在人工智慧的加持下光速般躍進。但也有越來越多科學家擔憂，這項醫療技術不只是「讀心術」，還可能被用來操弄思想，或是警察在問訊時干擾嫌犯的思緒。
人類不斷追求更省力、更有效率的自動化（automation），但人工智慧向前躍進一步，讓機器邁向「自主」（autonomy），不僅僅是聽令行事自動辨識分析，還能夠自主作決定，而決定的程序是人類未必理解的黑盒子。
胡斯的受試者明確知道自己在參與實驗，他的儀器相當昂貴複雜，需要大規模的資金和時間投入，並非一般人會接觸到的領域。
但人工智慧已經滲透在日常生活中，OpenAI以大型語言模型（LLM）為基礎的ChatGpt在2022年底橫空出世，能夠以仿擬人類思考、進行情緒分析的模式生成電郵、公文，以及一些猶如內容農場的新聞。文字轉圖片的技術緊接而來，OpenAI日前公布的Sora軟體則可以根據簡短的指令生成動畫、寫實影片等。
科學家研究人工智慧超過半個世紀，但近來討論越來越熱，警告聲浪也越來越高，令人瞠目結舌的並非新技術，畢竟當代人經歷過了電腦、互連網、智能手機和社群媒體的洗禮，但人工智慧發展的速度之快、影響範圍之深，讓身在其中的科學家也無法忽視潛在的威脅。
1972年，仍是研究生的軒頓（Geoffrey Hinton）用神經網絡的理論建構數學模型分析數據，打下電腦深度學習的根基，但當時很少人相信這位後來被稱為「人工智慧之父」的異想天開。幾年前，他仍以為人工智能需要至少30到50年的時間才可能比人類更聰明，但現在的發展讓這個趨勢可能很快出現。
為了暢所欲言，軒頓去年請辭谷歌副總裁的職務，他眼前的擔憂是人工智能對假消息、虛假圖片和影片的推波助瀾，中期他則擔憂這項科技會讓許多人失業；長期而言，他害怕能夠自行編寫演算法的人工智慧將超出人類的掌控，甚至威脅人類存亡。
人工智能帶動的股市狂潮淹沒了軒頓的警告，繼續訓練更強更大的功能。工業革命以來，人類不斷追求更省力、更有效率的自動化（automation），但人工智能向前躍進一步，讓機器邁向「自主」（autonomy），不僅僅是聽令行事自動辨識分析，還能夠自主作決定，而決定的程序是人類未必理解的黑盒子。
當臉書、谷歌、亞馬遜和微軟等美國業者打著讓人類生活更美好的招牌持續壯大時，中國政府已經看清數位科技的專斷集中性質
網路上的留言、跟語音助理的對話、分享的照片、使用的導航路徑、各處的監視器日日夜夜餵養著渴求包山包海資訊的人工智慧黑盒子，許多原始數據使用前未經原作者同意，甚至原作者不知道自己的訊息被擷取、使用並再製。
人工智慧的突飛猛進端賴過去二十年在網路上積累的大數據，網際網路（WWW）從一開始的自由開放民主，隨後走向封閉式的集中化，讓科技巨擘海撈使用者貪圖便利無償、無意識提供的海量數據。
當臉書、谷歌、亞馬遜和微軟等美國業者打著讓人類生活更美好的招牌持續壯大時，中國政府已經看清數位科技的專斷集中性質，不只攸關經濟利益，還涉及社會控制和國家安全，搭建數位長城防堵境外資訊，善用科技推動經濟發展，在疫情間施展近乎無孔不入的防疫手段之外，也利用數位科技監控人民的一舉一動，打造德國漢學家韓博天（Sebastian Heilmann）所說的「數位列寧主義」（Digital Leninism）。
面對脫韁野馬的科技，歐洲議會在2023年通過《人工智慧法案》的立法草案，規範製造商必須防止人工智慧生成非法內容、防止濫用和散播謊言，必須揭露模型的原始資料來源等，並要求防止歧視，限制一些被列為高風險的技術，例如影響選民想法和臉部辨識的工具等。
這部草案為全球人工智慧管理定下基調，獲得出版商和創作者的掌聲，但科技業認為這會扼殺創新能力。
九一一恐怖攻擊後，急於打擊恐怖分子的美國政府與科技公司達成默契，放手讓科技公司搜刮各式各樣的資訊，二十多年來塑造了「監控式資本主義」
工業革命時代的資本家希望藉著自由放任的市場力量創造最大的利潤，反對限用童工、保護勞工、減少環境污染，現在的科技資本家有了抗拒政府監管的新理由 — 綁手綁腳的西方法規會讓不受約束的中國競爭者占上風。
然而，美國哈佛大學的社會心理學家朱柏芙（Shoshana Zuboff）指出，在2001年的九一一恐怖攻擊後，急於打擊恐怖分子的美國政府與科技公司達成默契，放手讓科技公司搜刮各式各樣的資訊，二十多年來塑造了「監控式資本主義」（Surveillance Capitalism），當中共利用資訊科技穩固威權政體，逾越隱私權紅線且掌握、塑造甚或扭曲資訊認知的監控式資本主義正在斲害民主的根基。
科幻小說和電影的形象塑造，加上人工智慧一詞，人們對於這項科技的想像常常是擬人化的，像是機器人，無論是貼心的虛擬情人，還是殺人不眨眼的機器人。
研發人工智慧的部分初始動機是軍事用途
但有關人工智慧更貼切的語彙應該是「學習機器」，無論多麼聰明高效，仍是在金屬盒子裡的機器，而研發這機器的部分初始動機是軍事用途，蘋果電腦的人工智慧助理軟體Siri源自美國國防部的虛擬語音助理研究；研發戰爭中無須軍人駕駛的戰車促成了電動車Telsa的誕生。
以歐盟單一市場為基礎的歐洲《人工智慧法案》像是螳臂擋車，排除了歐盟層級不具立法權限但風險相當高的軍事用途，儘管使用人工智慧辨識敵人和目標在戰場上已經相當常見，只是許多國家規定攻擊的命令仍要由軍人決定，不交由演算法決定。
不過以色列的鐵穹防導彈系統完全自動自決，偵測到導彈就發射，掌握更多的殺生大權。中國明白人工智慧在戰場上的重要角色，尤其是看過俄國在烏克蘭戰爭的弱點後，積極研發無人戰車，推動即時整合有關辨識、追蹤、分析和攻擊的相關感應器與神經網絡，以攻擊敵人的後勤和指揮網絡。
軒頓在1980年代離開美國，前往加拿大任教，原因是他堅決反對在戰場上使用人工智慧，或是所謂的「機械戰士」，拒絕拿五角大廈的經費從事研究。
他說：「你很難想像，如何防止壞人拿它做壞事。」更複雜的倫理難題是，威力如此強大的科技即使落在所謂的好人手裡，也可能因為無知或錯估而釀成無法挽回的災難。
（本文2024年3月11日刊登在新加坡《聯合早報》）
