讀書心得- AI 3.0 (一)
Artificial Intelligence A Guide for Thinking Humans
作者介紹: 梅拉妮·蜜雪兒 (Melanie Mitchell)
Melanie Mitchell是波特蘭州立大學電腦科學教授，曾在美國聖塔菲研究所（Santa Fe Institute）和洛斯阿拉莫斯國家實驗室（Los Alamos National Laboratory）工作，主要的研究領域為類比推理、複雜系統、遺傳演算法等。在聖塔菲研究所時，蜜雪兒主導了複雜系統領域的研究工作，並教授了相關的線上課程。她的線上課程《複雜性入門》已經被近30 000名學生選修，成為Coursera排名前50位的線上課程之一。
蜜雪兒擁有密歇根大學電腦科學博士學位，師從認知科學家和作家侯世達（Douglas Hofstadter），兩人共同創建了Copycat程式，該程式可以在理想化的情境裡進行創造性的類比。蜜雪兒還是知名暢銷書作家，著有《複雜》（Complexity）《遺傳演算法導論》（Genetic Algorithms）等。
作者以前出版的一本書的中文版 — — 《複雜》，你可能會想知道兩本書之間的關係，在此做一個簡要的說明：《複雜》這本書是對複雜系統科學的一個概述，複雜系統科學研究的是複雜行為如何從相對簡單的組成部分之間的相互作用中產生，研究的範圍則從遺傳網路和昆蟲種群到人類智力和社會；而《AI 3.0》則是深度聚焦於複雜系統科學中的一些最難的問題，比如智慧的本質是什麼？研究者是如何創建智慧型機器的？我們如何評判這一領域目前所取得的成就？今天的機器距離真正像人一樣來理解世界還有多遠？
本書是唯 — — 本以一種深入但又容易理解的方式來講清楚當下人工智慧方法實際上是如何運作的、它們取得了什麼成就、它們面臨的挑戰在哪裡，以及人類認知領域的哪些核心屬性仍然還在所有當代人工智慧方法的能力範圍之外。
以下是財訊傳媒集團首席戰略官 葦草智酷創始合夥人段永朝，為該書寫的一篇精彩的序的部分內容。
等那一口仙氣兒
2019年，梅拉妮·蜜雪兒博士的這本新著《AI 3.0》甫一出版，就躋身亞馬遜“電腦與技術”暢銷書行列。10年前，她的《複雜》（Complexity）一書榮登亞馬遜年度十佳科學圖書榜單。人工智慧（artificial intelligence, AI）類的圖書可謂汗牛充棟，大致可分為兩類：一類是給專業的工程師看的，另一類是給大眾的普及讀物。蜜雪兒的這部書介乎兩者之間，它有專業的技術闡釋，更有深刻的思想洞察。
“侯世達的恐懼”
蜜雪兒是侯世達（Douglas Hofstadter）的學生。侯世達是蜚聲中外的暢銷書《哥德爾、艾舍爾、巴赫：集異璧之大成》（Gödel, Escher, Bach: an Eternal Golden Braid）的作者。這部1979年出版的不朽著作，往往被簡稱為“GEB”，40多年來長盛不衰，令無數學習電腦科學和數理科學的大學生心醉神迷。蜜雪兒1990年在侯世達的指導下獲得博士學位，後在美國波特蘭大學任電腦科學教授，同時也是著名的複雜科學研究聖地 — — 美國聖塔菲研究所的客座研究員。
在侯世達眼裡，人工智慧沒那麼高深，他直言很討厭“人工智慧”這個詞，並以其新著《表像與本質》中的例子，批駁人工智慧毫無“智慧”可言。 蜜雪兒的這部《AI 3.0》為侯世達對人工智慧的萬般憂慮做了一次深度的技術解析。
人工智慧的歷史遺留問題
本書第一部分回顧了人工智慧超過半個世紀的發展歷史，並提出該領域兩類主要的人工智慧，一類是符號人工智慧（symbolic AI），另一類是以感知機為雛形的亞符號人工智慧（subsymbolic AI）。前者的基本假設是智慧問題可以歸為“符號推理”過程，這一學派也被稱為“心智的計算理論”（computational theory of mind，CTM）學派。這一理論可追溯至電腦鼻祖法國科學家帕斯卡以及德國數學家萊布尼茨，真正體現這一思想的所謂智慧型機器，源於英國的查理斯·巴貝奇（Charles Babbage）以及艾倫·圖靈（Alan Turing）的開創性工作。
亞符號人工智慧的出現歸功於行為主義認知理論的崛起，可追溯至英國哲學家大衛·休謨和美國心理學家威廉·詹姆斯，其思想基礎是“刺激-反應理論”。20世紀40年代，美國神經生理學家麥克卡洛克（W. S. McCulloch）、匹茨（W. A. Pitts）提出神經元模型後，心理學家弗蘭克·羅森布拉特（Frank Rosenblatt）提出了感知機模型，這奠定了神經網路的基礎。
然而，20世紀五六十年代的人工智慧，在符號演算和感知機兩個方向上都陷入了停滯。80年代興起的專家系統和神經網路，也因為受制於計算能力和對智慧的理解，並未獲得實質性的突破。
蜜雪兒的論述有一條清晰的線索，她細緻地分析了人工智慧在視覺、遊戲、機器翻譯等領域最新的進展後指出：迄今為止令人眼花繚亂的智慧突破，其實尚未觸及智慧問題的核心 — — 自然語言理解和意義問題。為什麼會這樣呢？恐怕這就是我們需要仔細研讀本書的一個原因吧。
到底什麼是機器學習
視覺領域廣泛使用的專業工具是ConvNets，這一領域的創立者包括日本學者福島·邦彥（Kunihiko Fukushima），以及法國電腦科學家楊立昆（Yann LeCun）。對外行人來說，視覺識別繁複的演算法過程遮蔽了其中包含的技術思想，蜜雪兒將其“拎出來”展現給讀者：所謂視覺識別，無非是訓練出某種演算法，使得機器可以利用這種演算法來識別和命名它所“看到”的世界。
面對一個不知道其內部構造的物件，要想猜測出其內部構造具備哪些特徵，這一課題在“信號處理”這一學科中已經有長足的進展，最著名的方法就是所謂“卷積變換”，也稱傅立葉轉換。這一概念由法國數學家傅立葉提出，傅立葉對現代工程技術最大的貢獻就在於，他發現可以通過傅立葉轉換將物件的時域過程轉換成方便計算的頻域過程。把信號處理問題，理解成一個輸入信號經過某個信號裝置，產生特定輸出的過程。
工程師面臨的問題是：在不知道信號裝置本身的詳細資訊的前提下，如何通過輸入特定的信號序列刺激信號裝置產生特定的輸出，從而根據這一特定的輸出信號序列，推測出信號裝置的特徵？
任何一個週期函數，都可以表示為一個包含正弦與余弦函數的無窮級數之和（三角級數）。什麼叫“卷積”呢？簡單來說，就是一個黑箱的輸出函數等於輸入函數和這個黑箱特徵函數的卷積。卷積就是告訴我們，一個黑箱的輸出信號（輸出函數）與輸入信號（輸入函數）及這個黑箱自身的特徵函數有關。在已知輸入函數和特徵函數時，求解輸出函數的過程，叫作“求卷積”，實際上就是計算傅立葉積分的過程。
人工智慧應用ConvNets分為兩個過程：第一個過程是猜測物件的特徵函數，也就是為物件建模的過程（識別）；第二個過程則是根據物件的輸入-輸出回應序列，進一步調節物件參數的過程，這一過程也是“學習”的內在含義。也就是說，做卷積分析，就是面對一個不知其內部構造如何的物件，通過輸入一個已知的函數，觀察輸出函數，最終給出對目標物件內部構造的一個猜測。
在應用深度學習演算法的時候，人們通常會將資料集分為“訓練集”和“測試集”兩個部分：前一個部分的資料集，用來做猜測，猜測物件是什麼東西；後一個部分則用以對在訓練集上取得的成果進行驗證並優化相關參數，以便更準確地適應不同形態的物件。
深度學習又分為監督學習和無監督學習兩種。
監督學習，事實上就是通過人機交互，明確告訴演算法猜對了還是猜錯了。這種學習過程需要人機交互，也需要明確的關於物件的先驗知識，其應用場合是受限的，且效率低下。無監督學習則是需要學習機自行判斷結果是否恰當，進而優化判別參數。比如生成式對抗網路（GAN）應用的就是無監督學習，它可以根據此前的學習結果，構造出全新的模式（全新的貓或者狗），來拓展物件認知的邊界。當然，無監督學習仍然需要人為的干預，因為說到底，學習演算法並不“認識”這個世界。
目前，強大的人工智慧依然在練習認識這個世界，認識自己的工作，而其所仰仗的無非是兩樣東西 — : (1) 強大的算力（比如神經網路可以做到上百層，過去只能做到幾層）、(2) 傅立葉分析。歸根到底，對於世界究竟是什麼樣的，機器自己是沒有任何真實的感知的，依然需要人的干預和解釋。
然而，人給機器吹一口仙氣兒，機器就有靈魂了嗎？問題恐怕沒這麼簡單。
人工智慧的“能”與“不能”
在本書第三部分，蜜雪兒通過討論遊戲中的人工智慧來進一步說明這一點。強化學習就是“從猜測中學習猜測”，蜜雪兒將其調整為“從更好的猜測中學習猜測”。
人工智慧的核心問題，依然涉及對客體物件、目標過程的認識。真正的人工智慧必須有能力認識某一對像是什麼。人工智慧專家所找到的解決之道，其實還遠不是“認識物件”的解決之道（這一點蜜雪兒放在本書的最後一部分討論），而是找到了一個退而求其次的路徑，就是“目標函數”的構建。
目標函數是什麼？舉個例子，比如玩蒙眼點鼻子的遊戲。蒙眼人拿著筆走向一幅大鼻子卡通畫，然後摸索著去點畫中的鼻子。如果有個聲音不停地提示其偏離的方向，蒙眼人就可以很快地點中鼻子。這個提示點鼻子的偏差的資訊，對蒙眼人點中鼻子至關重要。想像讓機器來完成這個任務，機器可以不理解什麼是鼻子，什麼是點，也不用明白這麼做有什麼娛樂的價值，但如果能給出判斷點中與否的目標函數，就可以大大提高機器成功完成任務的概率。
其實，當下的人工智慧演算法依然停留在工程意義上，也就是說，還只是以完成任務爲目標。至於做這件事的意義，則全然不在機器演算法的“視野”之內。
也就是說，無論機器的自學能力有多強，有一件事是確定的，即遊戲目標的存在。遊戲規則和遊戲目標作爲先驗知識，給出了這樣一個明確的博弈邊界，即這一遊戲的博弈空間是有窮空間。演算法的唯一目標就是贏，不管其對手是人還是另一個機器演算法，也不管對弈雙方是否理解遊戲，或者能否欣賞遊戲之美，它只追求贏。棋類遊戲博弈中的“贏”，其實隱含一個假設，即遊戲本身是存在贏的可能性的，比如在圍棋中，平局、和棋也是“輸贏”的特定形態。
因此，機器在零和博弈空間裡完勝人類這一點，並非凸顯了機器智慧超群，只是進一步驗證了人類的局限性和零和博弈目標的有限性。除此之外，機器所取得的成功說明不了更多。
人工智慧所面臨的一個“硬核”場景：機器翻譯。這是本書第四部分的內容：當人工智慧遇上自然語言處理。相應的報導使用了這樣的表述：GPT-3竟然能直接理解自然語言。從報導中看，所謂理解自然語言，就是你可以用語音向演算法提任何問題，然後它就可以給你呈現你想要的。
對於目前的自然語言專案，可以武斷地說，它們其實毫無“理解”可言，它們唯一的本領就是“見多識廣”。問題在於，雖然一款智慧型機器可以快速遍歷狀態空間的更多可能性，把邊邊角角都掃描到，然後表現出越來越多令人驚訝的本領，甚至超過人類的表現，但是，它們依然像是“狗眼看星星”，並不認得什麼叫“星圖”。
意義問題：人工智慧所面臨的“硬核”挑戰
米歇爾這本著作的第五部分落到了“意義”問題上。她指出，理解的基礎是意義，意義是人工智慧的真正障礙。至於這一障礙是否不可逾越，這可以成爲激烈爭論的話題。感覺上，米歇爾所闡述的意義問題，並不是說人工智慧無法理解意義，也不是說人工智慧無法創造出新的意義（當然這取決於你怎麼定義“意義”），而是說，人工智慧對意義的理解是否在安全邊界之內 — — 這其實也是全書開篇提到的“侯世達的恐懼”的核心內容。
很多經常外出旅遊的人都有這樣的經驗：即便不懂異國他鄉的語言，你仍然可以用連比畫帶手勢的方式與當地人交流，至少淺層次的生活交流大致是沒問題的。原因也很明顯：大量超越語言的生活常識，其實是超越文化差異的全人類共有知識，這是意義的“底座”，但機器並不具備這些共有知識，用擬人化的語言說，機器像一個探索新奇世界的嬰兒，世界對它而言是全新的，它需要學會語言，但更重要的是它要學會理解沉澱在語言背後的意義。
意義的產生，既有漫長、深厚、難以細數的生活積澱，以及約定俗成的“能指-所指”(任何語言符號是由“能指”和“所指”構成的，“能指”指語言的聲音形象，“所指”指語言所反映的事物的概念) 的任意配對，也有突破詞語邊界的“類比”和“象徵”，按蜜雪兒的導師侯世達的觀點，這種類比和象徵是“思考之源和思維之火”。
蜜雪兒提出了一個根本性的問題：人工智慧是否以及何時能打破意義的障礙？
這個世界是隱喻式的，我們並非確鑿無疑地生活在符號世界中，我們生活在色彩斑斕的隱喻中。固然不同的文化所對應的底層邏輯之間難以互通或相互轉化，甚至不同的文化隱喻所導致的生活信念彼此牴牾，但人類仍然有共用的元認知（metacognition），這一元認知是維繫多樣化世界的最後屏障。
當然，無論如何機器將“長大”，並將開啓自己的獨立生活，創造自己的語言，甚至可能會形成與人類相抗衡的文化符號，提出自己的價值主張，創造自己的社羣、藝術，甚至宗教，並與人類分享這個世界的快樂。智慧型機器的存在和成長，是否會拓展人類的元認知，將這一元認知拓展為人機共用的元認知？僅靠文字的思維方式，可能難以走出符號演算的“如來佛之掌”。
侯世達在40多年前寫作“GEB”的時候，針對人工智慧提出了10個問題並給出了自己的答案，侯世達對這10個問題的思考，更多地指向形式邏輯、符號演算和線性思維天然的不足之處，這一不足之處正在於：符號思維難以超越其內生的邏輯悖論。
蜜雪兒仿照侯世達的做法，也在本書最後提出了6個問題 — — 看上去都是人工智慧領域亟待解決的問題，並嘗試給出了自己的回答。
人工智慧領域真正的挑戰在於：我們需要清醒地意識到，當下人工智慧的發展動力，依然來自“舊世界的邏輯”。這一舊世界的邏輯的鮮明特徵就是：將人機關係看作“主體世界”和“客體世界”這兩個可分離的世界。這種笛卡兒式的世界觀，雖然會被巧妙地轉化爲“人機共生”的版本，但經過盎格魯-撒克遜文化的改造，加上新教倫理與資本主義的強力助推，導致工程師和CEO憧憬的未來是這樣的：當比賽終場的哨聲降臨，人們滿腦子想的都是輸贏。
需要看到的是，這種舊世界的世界觀屬於符號世界。人工智慧底層思維的突破，關鍵可能就在於：超越這一舊世界的束縛，將婆羅門世界觀中的因明思想與中國春秋戰國時期的名辯思想以及古希臘的邏格斯思想，在更大的框架下融合起來，這是一個偉大的挑戰。
蜜雪兒的著作有一條充滿探索精神的主線：第三波人工智慧浪潮已經大大突破了前兩波人工智慧浪潮在思想上的束縛，在哲學範式上捅開了一個突破口，不只是符號表徵、計算問題，更多的是意義問題。那麼符號演算、視覺處理以及機器學習將如何推動人工智慧走向“覺醒”？這恐怕是人工智慧領域的專業人士以及普羅大眾都非常關心的問題。這本《AI 3.0》的獨特魅力就在於：站在前沿，深度思考，超越技術。
讓等那一口仙氣兒的機器，再等等吧。
正如本書英文版的副書名（“A Guide for Thinking Humans”）所示，這是一本為思考的人類而準備的著作，值得每位想要弄清人工智慧的影響與意義的專業或非專業人士認真地閱讀並思考。
在“GEB”一書的最後，侯世達曾列出關於人工智慧的“十大問題和猜想”，其中第一個就是關於音樂的。那時他認為電腦可以譜寫出優美的音樂，但並不會很快實現，因為音樂是一種關於情感的語言，在程式能夠擁有我們人類所擁有的這種複雜的情感之前，它絕無可能譜寫出任何優美的作品。
本書譯者曾把歌德爾關於智慧的思想總結為“廣義歌德爾定理”，即智慧分為演算法智慧（algorithmic intelligence，AI）、語言智慧（linguistic intelligence，LI）和想像智慧（imaginative intelligence，II）三個層面，演算法智慧無法超越語言智慧，語言智慧又無法超越想像智慧。正如歌德爾在普林斯頓高等研究院的同事愛因斯坦所言：“智慧的真正標識不是知識，而是想像。”
著名的“傑文茲悖論”（Jevons paradox）
威廉姆·斯坦利·傑文茲（William Stanley Jevons）是19世紀英國的數學家、哲學家和經濟學家，現代經濟學中的邊際效用理論的主要奠基人。在英國工業革命時期，工業大量消耗煤資源並產生了嚴重的污染，引發了利用技術提高燃煤效率的討論，但傑文茲的研究表明：燒煤效率越高，耗煤量將會越大。這就是傑文茲悖論：技術進步可以提高自然資源的利用效率，但結果是增加而不是減少人們對這種資源的需求，因為效率的提高會導致生產規模的擴大，這會進一步刺激需要。
電腦的“機器取代人”的例子說明廣義的傑文茲悖論也成立：技術進步可以提高人力資源的利用效率，但結果是增加而不是減少社會對人力資源的需求，因為效率的提高將導致生產規模的擴大。
我們相信，表面上以取代人力為目標的智慧技術，將產生更多更適合人類的新的工作崗位，例如學習工程師、決策工程師、法務工程師，等等。智慧技術可能會將今日之“碼農”解放出來，使其變成明日之“智農”，成為“人機結合，知行合一，虛實一體”的“合一體”智慧員工。如此一來，維納所說的：“人有人的用途，機有機的用處”將會實現。
作者個人更是堅信人工智慧必須從長期佔據主導地位的邏輯智慧（AI 1.0）和近20年來作為主力的計算智慧（AI 2.0），向人機混合、虛實交互的平行智能（AI 3.0）邁進。
政治哲學家和經濟學者弗裡德里希·哈耶克（Friedrich Hayek）曾說：“科學走過了頭，自由將無容身之地。”同理，智能越過了界，人性將無處安身。如何保證人工智慧不越界？根據廣義哥德爾定理，我們不是不相信智慧技術，我們只是不相信智慧技術背後的人類。因此，人工智慧的合法合規，必須依靠人類本身的文明和法制保證，智慧科技只能起輔助作用。
創造具有人類智慧的機器，是一場重大的智力冒險
在過去的10年裡，谷歌雇用了大量的人工智慧專家，其中最知名的要數雷·庫茲韋爾(Ray Kurzweil)。庫茲韋爾是著名的發明家，也是備受爭議的未來學家，他提出了人工智慧“奇點理論(AI Singularity)”：在不久的將來，電腦將比人類更智慧。谷歌聘請庫茲韋爾擔任工程總監來説明實現這一願景。
2011年，谷歌內部創建了一個名為“谷歌大腦”（Google Brain）的人工智慧研究小組，此後，谷歌還收購了多家頗有前景的人工智慧初創公司，如Applied Semantics、DeepMind和Vision Factory等。
AI and GEB
侯世達是人工智慧界的傳奇人物，也是名著“GEB”的作者。如果你是一名電腦科學家，你很可能聽說過、讀過“GEB”這本書。“GEB”成書於20世紀70年代末，是侯世達對諸多學術領域研究熱情的流露，彙集了數學、藝術、音樂、語言和文字遊戲等諸多領域的知識，旨在探討智慧、意識甚至自我意識這些人類基本技能是如何從非智慧、無意識的生物細胞基質中產生的。"GEB”也是一本關於電腦最終將如何獲得智慧和自我意識的著作，這是一本獨一無二的書，我不知道還有哪本書能與之媲美。
當時，侯世達是印第安那大學電腦科學系的教授，我(本書作者)異想天開的計畫是申請那裡的電腦科學博士學位，然後說服他接受我做他的學生。
創造具有人類智慧的機器，是一場重大的智力冒險，是一項被認為至少需要“100個諾貝爾獎”作為奠基的長期研究項目。侯世達認為，從原則上講，人工智慧是有可能實現的：“它的‘敵人’是那些說人工智慧不可能實現的人，比如約翰·瑟爾（John Searle）、休伯特·德雷福斯（Hubert Dreyfus）以及其他懷疑論者。
他們不理解大腦是一堆服從物理定律的物質，也不理解電腦可以類比任何東西，更不用說神經元、神經遞質等層面的內容了。從理論上講，這是可以實現的。”實際上，侯世達在“GEB”一書中詳盡地討論了在從神經元到意識的各個層面上模擬智慧的想法，這也是他數十年來的研究重點。
直到最近，侯世達似乎才認識到，通用的、人類水準的人工智慧在他甚至是他下一代的一生中都不可能出現，所以他對這點並不是特別擔心。在臨近“GEB”一書結尾的地方，侯世達列出了關於人工智慧的“十大問題和猜想”。其中一個問題是：“會出現能夠打敗人類的國際象棋程式嗎？”侯世達的猜想是“不會。有可能出現在國際象棋中擊敗人類的程式，但它們不會成為專業的棋手，它們只是通用智慧的程式”。
音樂，人性的堡壘
侯世達對國際象棋的預測是錯誤的，但他仍然堅持他在“GEB”中的其他猜想，尤其是他列出的第一個猜想：
問題： 電腦會譜寫出優美的音樂嗎？
猜想：會，但不會很快實現。
到了20世紀90年代中期，侯世達對人工智慧的信心再次產生動搖，這次更加徹底。他接觸到了音樂家大衛·科普（David Cope）編寫的一個程式，這個程式名為“音樂智慧實驗”（EMI）。科普是一名作曲家和音樂教授，他研發EMI的最初目的是讓它自動地按照自己規定的特定風格來創作音樂片段，説明自己完成樂曲的創作。侯世達談到:
"這讓我覺得世界上沒有任何一樣東西比音樂的表達更具人性。然而，對最淺顯的音節排序進行模式操縱，卻能夠產生聽起來仿佛來自人類內心的音樂，一想到這裡，我就非常非常不安"。“我被EMI嚇壞了，完全嚇壞了。我厭惡它，並感受到了極大的威脅 — — 人工智慧對我最珍視之人性的威脅。我認為EMI是我對人工智慧感到恐懼的最典型的實例。”
我們將成為遺跡，我們將被塵埃淹沒
接下來，侯世達談到了他對谷歌試圖在人工智慧領域取得的目標懷有一種深深的矛盾心理，包括自動駕駛汽車、語音辨識、自然語言理解、語言翻譯、電腦生成的藝術、音樂創作等領域，而谷歌聘請庫茲韋爾以及庫茲韋爾對奇點的願景進一步加重了侯世達的擔憂。奇點是指在不久的將來，在某個假設的時間點上，出現了具有自我提升和自主學習能力的人工智慧，隨後，這種人工智慧將很快成為達到進而超過人類水準的智慧，
我認為他們的時間表可能是錯誤的，當然，也有可能他們是對的。我們將會完全措手不及，我們可能會認為什麼都沒有發生，但是突然之間，在我們意識到之前，電腦已經變得比我們人類更聰明了。如果這真的發生了，我們將被取代，我們將成為遺跡，我們將被塵埃淹沒。
最為珍視的人性，結果只不過是“一套把戲”？
他們不明白侯世達為什麼如此緊張。在人工智慧領域工作的人早就已經習慣了這個領域之外的人的各種恐懼，他們可能是受到了科幻電影刻畫的超級智慧型機器會變邪惡等情節的影響。
他擔心的是：智慧、創造力、情感，甚至意識本身都太容易產生了，這些他最為珍視的人性特徵和人類精神，結果只不過是“一套把戲”，一套膚淺的暴力演算法就可以將其破解。
侯世達堅信：精神及其所有特徵完全來自大腦及身體的其他部分組成的物質基礎，以及身體和外界物理世界間的交互，其中沒有任何非物質或無形的東西。令他擔心的問題其實是一個關於複雜性的問題。他擔心人工智慧可能會展現給我們，我們最看重的人的品質可以通過簡單的機械化方法獲得，這讓人十分沮喪。
“如果人類這種無限微妙、複雜且具有情感深度的心靈能被一塊小小的晶片所簡化，這將會摧毀我對人性的理解。”
混亂與雜訊，高尚使命與召喚惡魔的對抗
谷歌的一些研究人員表示，他們預計通用的、人類水準的人工智慧很有可能在未來30年內出現，這在很大程度上要歸功於穀歌在深度學習領域的優勢。
我個人的觀點是：人工智慧在某些細分領域已經取得了很大的進步，但仍然離通用的、人類水準的人工智慧差得很遠，可能一個世紀後都無法實現，更別說30年了。我認為，那些持相反觀點的人大大低估了人類智慧的複雜性。
我讀過庫茲韋爾的書，發現大部分都很荒謬。然而，聽完來自我所尊敬和欽佩的人的所有評論後，也迫使我更批判性地審視自己的觀點。如果說這些人工智慧研究人員低估了人類的複雜性，那麼我是否也低估了當今人工智慧的力量和發展前景呢？
2014年，物理學家斯蒂芬·霍金（Stephen Hawking）宣稱：“完全的人工智慧的發展將導致人類種族的終結。”同年，Tesla和Space X公司的創始人埃隆·馬斯克（Elon Musk）說：“人工智慧可能是我們最大的生存威脅，而我們正在用人工智慧召喚惡魔。”
人工智慧領域正處於一片混亂之中。人工智慧的確取得了巨大的進展，但也的確幾乎沒有任何進展。可能我們離真正的人工智慧只有咫尺之遙，但也可能還有數世紀之遠。人工智慧將解決我們所有的問題，或令我們所有人失業，或貶低我們的人性，甚至消滅人類種族。這項研究要麼是一個高尚的使命，要麼就是在“召喚惡魔”。
一路狂飆的人工智慧，我們應該如何重新思考它
這本書源於我對人工智慧領域發展的真實狀態的嘗試性理解：電腦現在能做什麼，我們在未來幾十年又能從它們身上期待什麼。説明讀者更加清楚地認識這個領域已經取得了什麼成就，以及機器距離“能夠為自身之‘人性’進行辯護”還有多長的路要走。
本書共分五部分:
第一部分 若想對未來下注，先要厘清人工智慧為何仍然無法超越人類智慧
第二部分 視覺識別：始終是“看”起來容易“做”起來難
第三部分 遊戲與推理：開發具有更接近人類水準的學習和推理能力的機器
第四部分 自然語言：讓電腦理解它所“閱讀”的內容
第五部分 常識 — — 人工智慧打破意義障礙的關鍵
最後提出「思考6個關鍵問題，激發人工智慧的終極潛力」。
本書文字流暢，是非常推薦閱讀的一本好書。雖諸多專業術語及部分數學推理，但引伸很多AI歷史的來龍去脈，讓人對AI發展的主要人物及公司有一寫了解，讀起來感覺收穫良多，讓讀者對AI的關鍵議題，都可以有深入了解，非常適合想對AI的本質議題有更近一步了解的讀者閱讀。
