第一部　計畫、工程、路徑

第一章　人工智慧概覽：從願景到策略退卻

　　「我們可以期待機器在所有純粹智力的領域中與人類比肩。」這是偉大的邏輯學家艾倫．圖靈（Alan Turing，1912–1954）在1950年一篇廣為人知的文章中作的結論。該文題為〈運算機與智慧〉（Computing Machinery and Intelligence），以這個提問開篇：「機器能思考嗎？」作者不久便在稍後段落明確指出，他心目中能思考的機器，就類似剛剛發明出來的電腦；而電腦的發明，有一大部份便是植根於他本人十五年前於另一篇著名文章中提出的構想。
　　「人工智慧」這個詞尚未問世，人工智慧這個夢想的要素卻已齊備：思考、智慧、電腦。圖靈這篇深刻、細膩、時而極端幽默的文章說明了，這個夢想沒有當時大多數人以為的那麼瘋狂，然而要實現它，就得先擺脫根深蒂固的某些觀念。事實上，不過短短六年，這篇文章便催生出一項研究計畫，又在不到七十年的時間內發展成我們如今知曉的「人工智慧」。
　　這算不算圖靈的夢想成真？不一定。全憑我們怎麼詮解這個夢想，怎麼評判目前狀況，又打算觀察多久才做評判。不管是不是專家，包括我在內的多數人都認為，這個夢想至今仍未實現。但如今我們掌握的東西，距離那個夢想卻也不再遙不可及。至於人工智慧最終會否追上人類智慧，則是另一個更加困難的問題；我將花費整本書的篇幅，提出一個基本上是否定的回答。
　　在此之前，第一章將先釐清「人工智慧」這個詞究竟指的是什麼，並介紹人們起初究竟如何設想這個名為「人工智慧」的目標。其後我將說明，人工智慧草創以來進行了一次策略性的撤退，也因此才斬獲某種程度的成功。隨後數章將更加詳細回顧人工智慧如何走到今天這一步，以及這門新興學科為了克服早期的挑戰，在不無成功的努力中動用了哪些概念工具。然後，我們才能暢論現況以及未來。

1.1「人工智慧」是指什麼？

　　「人工智慧」言人人殊。有些人口中的人工智慧是指這個，有些人說的是指那個，兩者並非完全一致，亦非毫不相干。將人工智慧視為一種同質且定義清晰的事物是錯誤的。人工智慧不像分子生物學或高能物理學等科學學門，也不像電動推進或無線傳輸等技術那樣明確劃分。
　　除此之外，術語也頗有疑義。「人工智慧」指的首先是一種人們試圖創造之物：具備某種特定能力的一套系統。然而，這個詞同時也用來指稱意在創造，換言之，意在勾勒並打造此物的學門、或更廣泛的機構體系。本文中我會使用「AI」這個慣用縮寫來稱呼這門學科與它所屬的機構體系──簡言之，即這項工程。同時，我會以全稱「人工智慧」來指稱AI所追求、所產出的對象。第三方面，AI造出的某個系統，也常常被稱為一個AI。這種說法英文裡也有，其實極不妥當。我建議改用「智慧人工系統」（système artificiel intelligent）或「AI系統」（SAI，這個縮寫在我執筆的此刻並未成為標準），來指稱AI及其近親領域──機器人學（robotique）製造出來的任何系統或裝置。歐盟執行委員會與某些作者也認同這種處理方式。
　　然而，真正的困難並不在此。第一個難題是：判斷一個既有的AI系統是否具備或展現出人工智慧，這個問題其實無法明確回答：這個系統真的稱得上是AI系統嗎？在研究初期看似是AI系統的系統，在日後、或者換個角度看，也可能只是與平庸電子計算機差不了多少的機械裝置。我們之後會看到，這個問題自有AI以來便如影隨形。因此我們必須同意以下兩點：一方面，凡是由人工智慧實驗室製造出來的系統，皆符合我們對AI系統的定義；另一方面，這些AI系統到底在多大程度上、以什麼樣的意義具備人工智慧，依舊有待釐清。再更寬泛地談，AI在過去、現在與未來在多大程度、何等意義上，在過去製造了、在現在能夠製造、在未來將會製造具備此等智慧的系統，仍然等著我們解答。
　　但我們所說的「具備人工智慧」究竟是什麼意思？這就是最根本的困難所在：我們應該如何理解「人工智慧」這個詞組中出現的「智慧」一詞？這個詞是否保留了它慣常的意義，一如「街貓」的「貓」、「橄欖油」的「油」？還是我們應該將「人工智慧」理解為像「山竹」、「鴻篇」、「貓頭鷹」這些詞那樣，「山」、「竹」、「鴻」、「貓」並沒有真的參與其中？若是後者，為求明晰，我們或許應該加上連字號，寫成「人工—智慧」。
　　若採前者，人工智慧即為某種類型的智慧；那麼，一個貨真價實的AI系統，理所當然就應該具備智慧。如果AI業界無法造出具備一般人認知中「智慧」的AI系統，便算失敗；不過，AI業界也可能辯駁道，這些系統哪怕目前尚未掌握如假包換的智慧，卻已展現讓人聯想到智慧的某些特徵，未來也終將真的擁有智慧。而若採後者，我們就單純是在觀望，不預設我們至少大概知道人工智慧會是什麼樣貌。如此以來，我們就可以不帶預設立場，放下我們對智慧之本質或要素的設想，純就現實情況審視人工智慧計畫暨其諸般成果。
　　怎麼選擇、或甚至拒絕選擇，就讓人與人對此領域的願景產生極大差異。更何況，大家口中的「智慧」這個概念，不論有否闡明，本身就眾說紛云。什麼能當成「一般人認知中的智慧」的證明？對某些人來說，倒背字母表哪怕只是微弱的徵兆，終究是智慧的一種表現；另一些人卻認為，倒背字母表只是例行的機械動作，與智慧南轅北轍。智慧本身引發許多歧見，遠早於人工智慧的爭論，卻也繼續影響後者。

第一部　計畫、工程、路徑

第一章　人工智慧概覽：從願景到策略退卻

　　「我們可以期待機器在所有純粹智力的領域中與人類比肩。」這是偉大的邏輯學家艾倫．圖靈（Alan Turing，1912–1954）在1950年一篇廣為人知的文章中作的結論。該文題為〈運算機與智慧〉（Computing Machinery and Intelligence），以這個提問開篇：「機器能思考嗎？」作者不久便在稍後段落明確指出，他心目中能思考的機器，就類似剛剛發明出來的電腦；而電腦的發明，有一大部份便是植根於他本人十五年前於另一篇著名文章中提出的構想。
　　「人工智慧」這個詞...

前言

　　懷孕的海豚對研究牠的青年學者表示她跟牠一樣身懷六甲，青年學者卻不知自己有孕在身。這則軼事與人工智慧毫不相干，不過為了引出正題，我們就當它確實發生過。它輝映著自然的智慧，具體而言是動物的智慧，如此的智慧就是我提議稱之為「謎奧」的一個例子。我把「謎奧」（énigme）與「神祕」（mystère）和「問題」（problème）區分開來。「神祕」凌駕我們，與我們認知之間的鴻溝似乎太寬太闊，我們無法想像自己搆得著。「問題」呢，樣子就像我們解決得了的任務。介於兩者之間的，是「謎奧」：驚愕我們、癱瘓我們，卻也挑戰我們解開它。我們期待的不是一層，而是兩層解釋：第一層提供了解謎之鑰，解開謎奧；第二層則讓我們領會何以此謎之為謎。
　　海豚的小故事裡，第一層解釋彰明了因果鏈：起於回聲定位、迄至物種間之溝通，中間還有種種步驟，諸般環節尚待釐清。這個故事在我們眼中成為謎奧，是源於我們對動物智慧的設想：動物得以察覺、理解什麼，如何處理與自身及他者的關係，又擁有怎麼樣的溝通能力。這就是第二層的解釋：凡此種種若無認知動物行為學（ethologie cognitive）之助，我們都覺得哪有可能。
　　《人工智慧、人類智慧：雙生謎奧》這個書題或許也有點玄。本書以此為題，是一種宣講下述諸般論題的方法。一、人工智慧是一樁謎奧。二、人類智慧是另一樁謎奧。三、兩樁謎奧息息相關。最後，它們非屬「神祕」──因為，我打算解開這兩樁謎。
　　以一個驚訝開場吧。維柯的「真理即製成」（verum-factum）原則指出，我們懂我們所製之物。還得更進一步：要確認我們真正明瞭某物或某現象、知其運作原理，就只能動手去做──若是物，就製作一個；若是現象，則將其引發。電腦一如萬般人造之物，似乎也不例外：我們對電腦瞭若指掌。然而——這就是驚訝所在──電腦實際運作時，卻變得不可預測。當然，針對特定的輸入，程式會給出什麼結果，我們一般而言並不事先知道，否則哪裡還需要電腦。討厭的是，我們有的時候沒有辦法確保結果符合預設的規格：我們無法在所有情況都掌握、哪怕只是大略知曉，電腦在做什麼。這就違反了「真理即製成」，讓資訊科學既形式、亦實證：構思並撰畢演算法後，尚必須觀察其行為，看看是否符合我們的預期。人工智慧承襲了這種雙重性質；因此，研究其基礎，對其技術應用而言即為重中之重。
　　有人或許會認為，人工智慧僅引發技術、社會、法律或經濟問題，未帶來迫切的理論疑難。執此見解的理由是，人工智慧只是人類智慧一份想必並不完美的單純拷貝。然而，前述不可預測的性質顯示出，這種看法並不正確。另一種錯謬論點是：人人都同意，反思人類智慧是有理論價值的，漫長的幾個世紀以來確實成果斐然，知識哲學（philosophie de la connaissance）的浩瀚積累，還有整個理性主義的傳統，在在都證明了這一點。而對人類智慧的如此反思，都未涉及晚近才問世的人工智慧。這種說法忽略了，人工智慧的關鍵概念其實在前幾個世紀的哲學，特別是霍布斯與萊布尼茲的著作、以及亞里斯多德一路迄至布爾和弗雷格的邏輯學傳統裡，早已醞釀成形。艾倫．圖靈承此遺緒，使其開花結果，促成了當代無與倫比的技術與科學變革：電腦科學及其進階分支──人工智慧。
　　自某角度觀之，人工智慧就是身為智慧基石的知識哲學，以其他手段延續的結果。人工智慧的成功與失敗，都是我們思考人類智慧的素材。確實，這個行業（我以縮寫「AI」稱呼，以區別它生產的成果；表述後者時，我將完整寫成「人工智慧」）總的來說只將人類智慧視為須以電腦重現的程序，而無意分析這些程序，提煉出普遍特質。也確實，AI早期成果微薄，圈外許多研究者因而對它喪失興趣，轉而關注認知心理學與其他研究自然智慧的分支學科，我自己當時也是如此。但情勢已經逆轉：人工智慧強大起來，激發出新的疑問。進入二十一世紀後尤其如此，人工智慧發展為一項龐大工程，觸及各個領域。「效能」確指為何仍待定義，但已可說，整合入各種系統的人工智慧，效能遠超昔日，其經濟、社會與文化影響自也不可同日而語。
　　凡此種種即是本書的背景、本書問世的理由，卻倒又不是本書宗旨。本書所要探討的，是當今人工智慧的概念基礎。我們將試圖理解，哪些理論資源成了糧草，讓本領域突飛猛進；這些資源又為我們理解自然智慧帶來了哪些進展；當前這個企圖面臨什麼樣的限制，又應該對它設下哪些邊界……簡而言之，我們要談的，是今日的AI。目前AI的主流技術，是深度學習（deep learning）。深度學習是連結主義（connexionnisme）的化身，然而AI卻又不能化約為深度學習。今日的AI從初期的符號AI手中接下棒子，符號人工智慧的取徑至今亦未消失。最具權威的專家研判，符號取徑與深度學習兩種範式都無法讓AI成就其最宏大的野心。但就算如此，人工智慧也已為社會提供了一系列功能驚人、解釋不清、卻又無可否認的系統。當務之急，是深入理解這些系統的運作方式、侷限與風險，而這正需要我們回顧數十年來不斷提出的理論問題。
　　現在是時候指出，「人工智慧」一詞所指為何，如今已模糊不清。有些人認為，如此模糊的背後是極大的混淆，大到必須放棄這個詞彙，另尋他名：大眾眼中，隨便一個演算法、最簡單的應用程式、最普通的智慧裝置，全都是「AI」。我個人提議保留這個稱呼──再說我們也選無可選，這說法已經約定俗成──但必須區分「狹義」與「廣義」。狹義的AI，指的是承繼某一明確的智識傳統，理論與技術定義相對清楚的一整群制度、計畫與成果。本書主要想討論的，就是這種狹義的AI。至於廣義的人工智慧，則包含狹義的人工智慧，也涵蓋了讓「數位圈」（numérisphère）得以日新又新的一切事物。所謂的「數位圈」，指的是如今已成為人類世界新空間的全體數位流程與系統，其中就包括網際網路。當我們中肯道出「AI正深刻影響社會」，指的應是這個廣義概念。不過，狹義AI的一眾相關概念，也在其中發揮日益吃重的關鍵作用。
　　人工智慧並不是唯一具有「普及性」──也就是會逐步滲透進幾乎所有活動領域──的技術。另一個常見的例子是電。但兩者之間有一項關鍵差異。我們大致理解電的能力，也能在它進入某個領域前，預測它會帶來什麼樣的改變。但AI並非如此。我們很難預測導入某特定領域的某特定AI系統（擁有智慧的人造系統）究竟有什麼能力，以及它為何能或不能實現人們的期待。它或許能力太弱、設計不良、格格不入，成事不足、敗事有餘；也可能強大得多，但做了期待之外的事，引致可能相當嚴重的傷害。也或許，它令人滿意（其實顯然也經常如此，否則AI今天早就讓人收納進「弄巧成拙小聰明倉庫」裡了──這在歷史上幾度差點發生），但我們卻無法透徹掌握它這次怎麼成功了，也不知道在哪些領域、哪些輸入值之下，能夠期待它產出還算可以的結果。
（未完）

前言

　　懷孕的海豚對研究牠的青年學者表示她跟牠一樣身懷六甲，青年學者卻不知自己有孕在身。這則軼事與人工智慧毫不相干，不過為了引出正題，我們就當它確實發生過。它輝映著自然的智慧，具體而言是動物的智慧，如此的智慧就是我提議稱之為「謎奧」的一個例子。我把「謎奧」（énigme）與「神祕」（mystère）和「問題」（problème）區分開來。「神祕」凌駕我們，與我們認知之間的鴻溝似乎太寬太闊，我們無法想像自己搆得著。「問題」呢，樣子就像我們解決得了的任務。介於兩者之間的，是「謎奧」：驚愕我們、癱瘓我們，卻也挑戰我們解...

獻辭
前言
第一部　計畫、事業與歷程
第1章　鳥瞰人工智慧：從願景到戰略退卻
1.1 「人工智慧」指的是什麼？
1.2 AI的普羅米修斯時刻
1.3 戰略退卻
1.4 戰略退卻的五個階段
1.4.a 放棄「會思考的思維」
　1.4.b 放棄與人類智慧等同的想法
　1.4.c 放棄通用智慧的目標
　1.4.d 放棄獨立於人類智慧的追求
　1.4.e 放棄反思
1.5 當代AI的三張面孔
1.6 前景未明

第2章　人工智慧之源
2.1 認識論與形式邏輯
2.2 計算與演算法
2.3 電腦
2.4 系統與功能
2.5 行為與自主性
2.6 資訊與溝通
2.7 新機械論的統合
2.8 模控學：熔爐與母體

第3章　古典時期
3.1 AI的面貌
3.2 古典（或符號式）AI的基礎
3.3 尋找演算法
3.4 符號式AI古典時期的季節
3.5 符號式AI的困境：從微觀世界到專家系統
3.6 符號式AI是否存在根本缺陷？

第4章　連結主義的年代
4.1 神經計算的概念框架與連結主義模型
4.2 從感知到預測
4.3人類智慧對人工智慧貢獻的兩種理解
4.4神經計算的艱難崛起與深度學習的勝利
4.4.a 最初的共存：從 McCulloch 與 Pitts（1943）到感知機（1960年代末）
　4.4.b 三十年戰爭（1970–2000）
　4.4.c 勝利之路（2000–2012）
　4.4.d 深度學習的統治（2012–2017以及之後）
4.5 深度學習的弱點
4.6 受限的能力

第5章　第三個時代的前奏？
5.1 深度學習的發展
5.2 Transformer 改變了語言處理
5.3 「大型語言模型」（Large Language Models, LLM）的出現
5.4 生成式人工智慧的優勢與弱點
5.5 機器人學與AI的再度交會
5.6 擴增智慧
第二部　智慧的問題與AI的未來
第6章　人工智慧與人類智慧可以比較嗎？
6.1 「第一步」修辭與「沒有奇蹟」論證
6.2 兩大分歧
6.3 逃避比較問題的三種方式
6.4 表格中的第四格：接受比較的前提
6.5 尋找缺失的要素
6.5.a 意識
　6.5.b 意義
　6.5.c 常識
　6.5.d 主體屬性：後設認知與情感
　6.6 加總的侷限與終點

第7章　智慧與動物性
7.1 舊問題的回歸
7.2 尋找智慧的定義
7.3 有機體與環境：生態式觀點
7.4 問題與情境
7.5 智慧：如何處理情境

第8章　智慧與人性
8.1 從情境到問題
8.2 兩種類型的情境？
8.3 分析方法的失敗
8.4 人類智慧的機巧：合作
8.5 自主性
8.6 智慧概念的雙重面貌，以及迷思的消散

第9章　夢想中的人工智慧
9.1 強人工智慧的計畫
9.2 人工通用智慧（AGI）的目標
9.3 兩條途徑：演算法式與生物式
9.4 強人工智慧可能嗎？（一）支持AGI的論證
9.5 強人工智慧可能嗎？（二）超智慧的案例
9.6 超智慧（也即 AI）可能永遠無法跨越的雙重限制

第10章　人工智慧與善
10.1 AI的倫理覺醒
10.2 人工智慧倫理的目標
10.3 憲章與原則
10.4 倫理反思仍在前方
10.5 「控制問題」與價值對齊
10.6 讓牛群得到妥善照顧

附錄
致謝
引用作品
註解
人名索引
術語、技術名詞與縮寫索引

獻辭
前言
第一部　計畫、事業與歷程
第1章　鳥瞰人工智慧：從願景到戰略退卻
1.1 「人工智慧」指的是什麼？
1.2 AI的普羅米修斯時刻
1.3 戰略退卻
1.4 戰略退卻的五個階段
1.4.a 放棄「會思考的思維」
　1.4.b 放棄與人類智慧等同的想法
　1.4.c 放棄通用智慧的目標
　1.4.d 放棄獨立於人類智慧的追求
　1.4.e 放棄反思
1.5 當代AI的三張面孔
1.6 前景未明

第2章　人工智慧之源
2.1 認識論與形式邏輯
2.2 計算與演算法
2.3 電腦
2.4 系統與功能
2.5 行為與自主性
2.6 資訊與溝通
2.7 新機械論的統合
2.8 模控...