名人推薦：我們所有人，不僅是科學家、產業鉅子和軍事將領，全都應該捫心自問，到底能做些什麼，才能在將來提高獲取人工智慧各種利益的機會，避免風險發生。這是我們這個年代最重要的對話，而鐵馬克這本能刺激思考的作品，將幫助我們參與其中。
——霍金（Stephen Hawking）
劍橋大學教授暨理論宇宙學中心研究主任

在探究生命、智慧和意識的恢弘未來時，這是說服力十足的指南，告訴我們在面對挑戰時能如何做出選擇。
——馬斯克（Elon Musk）
SpaceX執行長兼技術長，Tesla汽車執行長暨共同創辦人

一旦釋放出人工智慧前所未有的威...

我們的宇宙誕生至今 138 億年了，已經逐漸甦醒並意識到自己的存在。在一顆渺小的藍色星球上，我們宇宙中有意識的一小部分開始用望遠鏡看向外太空，不斷發現自己已知存在的所有事物，其實都只不過是整個宇宙中的滄海一粟：先是太陽系，再來是銀河系，然後發現整個宇宙其實是由好幾千億個不同的星系，依照星系群、星系團、超星系團的規模漸次而成。雖然這些擁有自我意識的觀星人各有各的想法，但是他們大致上都同意，這個由星系組成的宇宙是如此美麗，浩瀚到令人生畏。
但是，這樣的美只出現在人的眼底，並不存在於物理定律中。意思是，在宇宙萌發意識之前，沒有美這個概念存在，這就讓我們宇宙的甦醒帶來更神奇、更值得慶祝的一件事：我們的宇宙從有如沒有自我意識的殭屍，蛻變成活潑的生態系統，擁有反思、審美和期望的能力，並且懂得追求目標、意義和使命。要是我們的宇宙未豐富多樣，讓人目不暇給的生命型態。其中演化得最成功的物種，很快就取得競爭的絕對優勢，能依據環境做出一定程度的反應。說得更直接一點，這些物種就是電腦科學家口中的「智慧型代理人」（intelligent agent）：泛指有能力透過偵測器蒐集環境資訊，並在消化資訊內容後，決定如何對環境做出回應的機制。這包含了相當高度複雜的資訊處理流程，就像你善用眼睛、耳朵得到的資訊，決定要如何進行對話一樣；但可能也包括一些相當簡單的軟硬體設施。
打個比方，很多細菌可以感測到周遭流體中糖的濃度，也能夠用螺旋槳狀的鞭毛在流體中移動，而連接感測器和鞭毛的硬體構造，可能只需要負責執行一個簡單又有效的演算法：如果糖濃度感測器接收到的數據，比幾秒鐘前的數值低，就反轉鞭毛，改變現有的移動方向。你除了會說話，也學會了很多不同的技能，但是細菌相較之下並不是學習高手。細菌的DNA不只決定了它們的糖濃度感測器和鞭毛等硬體設施，也決定了它們內建的軟體。細菌從來學不會朝糖的方向移動：它們的演算法從生命一開始就寫死在DNA上，無法更改。這個演算法當然也是經由某種學習的過程而來，但是細菌在一生中，都不會經歷學習過程，而是經過代代相傳的演化，透過嘗試錯誤的緩慢過程而來。天擇傾向讓細菌保留了能提高糖份吸收的DNA突變，有些突變可能讓微生物的鞭毛或其他硬體設施變得更發達，有些突變則可能改善了微生物的資訊處理系統，提高糖偵測演算法或其他軟體的效率。
這樣的細菌就是我稱為「生命 1.0」的一個樣本：生命的軟硬體設施都是演化而來、而不是訂製而成的。而你跟我一樣，是「生命2.0」的型態：生命的硬體是演化而來的，但軟體大多是訂製而來。所謂人類的軟體，我指的是你用來處理感測器接受到的資訊，決定該做些什麼事的演算法和知識 —舉凡是你看到朋友的臉孔就認出對方的能力，還有走路、閱讀、計算、唱歌跟說笑話的各種能力，都算在內。
你出生時，上述能力一應俱無，這些軟體都要日後透過我們稱為學習的過程，逐一把程式寫進你大腦裡。雖然你童年時的課程大多是由家長和老師訂製，他們決定了你該學什麼，但是長大的你也逐漸取得更多訂製專屬軟體的決定權，像是學校可能會開設外語選修課程：你會想在大腦內安裝讓你能開口說法文的軟體模組嗎？還是要安裝西班牙語那套？想要學打網球還是下西洋棋？你希望致力鑽研成為廚師、律師還是藥劑師？你想要讀完這本書，多學一點有關人工智慧和未來生命型態的內容嗎？
這些自行訂製軟體的能力，讓生命 2.0 比生命 1.0 更加聰明。高等智慧需要依靠大量硬體（由原子組成）和大量軟體（由位元組成）的相互結合。人類大多數硬體設施是在出生後（透過成長）才完成增建，這其實讓我們非常受用，因為我們體型發展就不會受母體產道的寬度所限。同樣的道理，我們大多數軟體是在出生後（透過學習）才完成安裝，也是很受用的事，因為我們智慧的發展就不會如同生命 1.0 的型態，受 DNA 承載的資訊量而定。我的體重是出生時的 25 倍，大腦內連結神經突觸接點所儲存的資訊量，則是出生時 DNA 承載資訊量的好幾十萬倍。人類大腦突觸能儲存的知識和技能大約是 100TB ，而 DNA 能儲存的資訊量不過是 1GB ，大概只夠讓你從網路上下載一部電影，所以這就是為什麼剛出生的嬰兒不可能開口說出流利的英文，也沒辦法在大學入學測驗中拿到高分：這些資訊都不可能預先載入嬰兒的大腦中，因為嬰兒承繼自父母親的主要資訊模組（ DNA ），欠缺足夠的資訊儲存空間。
訂製軟體的能力讓生命 2.0 比生命 1.0 更聰明，也更有彈性。當外在環境產生了變化，生命 1.0 只能透過好幾世代的緩慢演化進行調適，而生命 2.0 卻可以透過更新軟體的方式，做出近乎立即的反應。好比說，經常碰上抗生素的細菌可能會經歷好幾世代的演化而產生抗藥性，但是任何單一的細菌卻絲毫沒有與之抗衡的能力。相較之下，知道自己對花生過敏的小女孩會很快改變行為模式，開始避免接觸到花生。
這樣的彈性讓生命 2.0 在群體層面，取得非常大的優勢：儘管人類的 DNA 在過去五萬多年來沒有太劇烈的變動，但是可以在我們腦海中、在書本以及在電腦中儲存的知識總量，卻有爆炸性成長。我們安裝了可以用更精確的語言互相溝通的軟體模組，才能把某個人大腦中最可貴的資訊，複製到其他人的大腦中，好在他過世以後仍讓知識流傳。有些軟體模組讓我們學會讀與寫，我們因而能儲存和分享比背誦還多的資訊。多發展一些使大腦能追求更多科技突破的軟體（亦即在理工科學領域多下點功夫），就能讓世上許多的人只要動動手指，就能得到人世間的許多資訊。
這樣的彈性讓生命 2.0 成為地球的主宰。人類跳脫基因鏈的枷鎖，知識的累積愈來愈快，推動一個接一個的創新突破：從語言演化出文字，從印刷術帶動現代科學，從電腦發展成網路等等。我們互相分享的軟體促成了日新月異的文化演變，主導人類未來的發展，因而使得人類如冰河般緩慢的生理演化，顯得不重要。只是就算我們窮盡當前最了不起的科技，所有我們已知的生命型態基本上仍舊受生理的硬體設施所限。沒有人能夠壽與天齊，沒有人能夠記住維基百科的所有內容，沒有人能理解所有已知的科學領域，也沒有人能不用太空船就去太空遨遊，更不會有人能把生命型態少得可憐的宇宙，轉換成多樣化的生物圈，繼續繁衍幾億、幾兆年，好讓我們的宇宙終能發揮所有潛能，徹底甦醒。這些都要靠生命完成最終的升級，進入到生命 3.0 的階段，兼具訂製自身軟硬體設施的能耐，才有辦法達成。這表示生命 3.0 是自己命運的主宰，可以完全擺脫演化的羈絆。
這三個生命階段的界線並非黑白分明，假定細菌是生命1.0而人類是生命2.0，則老鼠就可以歸類成生命 1.1 ：老鼠可以學會很多事，但卻不足以發展出語言，或發明網路。更重要的是，因為欠缺語言，老鼠學會的東西大多會隨死亡而不復存在，沒有辦法在世代之間傳遞。換個角度來看，你也可以把人類當成生命2.1 看待：我們有辦法完成小規模的硬體升級，像是人工植牙、人造關節和心律調節器等等，但沒辦法做出長高十倍，或讓大腦變大一千倍等戲劇化改變。
簡單來講，我們可以把生命的發展區分成三個階段，以生命自身的能力和自行訂製的能力加以區隔：
生命 1.0 （生物性階段）：生命的軟硬體皆有賴演化。
生命 2.0 （文化面階段）：生命的硬體受演化所限，但是可以訂製自身的軟體。
生命 3.0 （科技面階段）：生命的軟硬體都能自行訂製。
宇宙經過138億年的演化，在地球上的發展急遽加速：40億年前才誕生出生命1.0的型態，生命2.0的型態（我們人類）則是在數十萬年前站上歷史舞台，而很多人工智慧的專家更是認為，在接下來幾世紀就有可能達成生命 3.0 的型態，如果人工智慧取得長足的進展，甚至也不排除在我們有生之年就能看到生命 3.0 。這對我們有什麼意義？這就是這本書要談論的主題了。

（摘自本書第一章〈歡迎參與這個時代最重要的對話〉）

我們的宇宙誕生至今 138 億年了，已經逐漸甦醒並意識到自己的存在。在一顆渺小的藍色星球上，我們宇宙中有意識的一小部分開始用望遠鏡看向外太空，不斷發現自己已知存在的所有事物，其實都只不過是整個宇宙中的滄海一粟：先是太陽系，再來是銀河系，然後發現整個宇宙其實是由好幾千億個不同的星系，依照星系群、星系團、超星系團的規模漸次而成。雖然這些擁有自我意識的觀星人各有各的想法，但是他們大致上都同意，這個由星系組成的宇宙是如此美麗，浩瀚到令人生畏。
但是，這樣的美只出現在人的眼底，並不存在於物理定律中。意思是，在宇...

【序曲】
歐米茄團隊是這家公司的靈魂。公司其他部門負責透過各種低階人工智慧建立起的商業模式，替公司帶來維持營運的資金，歐米茄團隊則是負責往前探索、尋求突破的工作，目的是為了實現執行長的夢想：打造通用人工智慧。大多數公司員工把口中戲稱為「小歐米茄」的團隊當成建造空中閣樓的人，畢竟這個團隊追求的目標還太久遠，緩不濟急，不過他們還是很推崇歐米茄團隊，因為這個團隊的尖端科技不但帶給公司受人尊重的地位，三不五時推出改版的演算法也讓其他部門受益匪淺。
不過其他部門的人卻不知道，歐米茄團隊在精心營造的形象下蘊含的真正祕密：他們即將推出人類史上最大膽的計畫。這些小歐米茄能受深具號召力的執行長特意挑選，成歐米茄團隊成員的原因，不只因為他們是充滿天賦的研發人員，還因為他們的企圖心、理想主義性格，還有想帶動人類社會往前發展的強烈使命感。執行長不忘提醒團隊成員，這是非常危險的計畫，一旦遭強權政府發現，政府單位勢必無所不用其極（包括用綁架或羈押手法）迫使計畫停擺，或竊取他們研發的程式碼。團隊成員百分之百投入的熱忱，理由就如同當年世上頂尖物理學家投入曼哈頓計畫發展核武器一樣：他們深信要是不搶先一步，被其他有心人士捷足先登的話，那就糟了。
歐米茄團隊稱為「普羅米修斯」的人工智慧變得愈來愈厲害。雖然普羅米修斯的情境認知能力在很多方面（比方說社交）還是遠遠不如人類，但是歐米茄團隊嘔心瀝血的結果，已經讓普羅米修斯在一個特定的工作項目中變得卓越非凡──編寫人工智慧的系統程式。這是深思熟慮後的策略性發展項目，原因可以回溯到1965年英國數學家古德（Irving Good）對人工智慧爆炸性發展說過的一段話：
「且讓我們假定超級聰明的機器可以在所有智識領域中，表現得遠比世界上所有人類更優秀，既然設計這樣的機器也算是智識活動，那麼這台超級聰明的機器就有辦法設計出另一台更優秀的機器。如此一來，人工智慧爆炸性發展就會是自然而然的結果，並且會遠遠拉開和凡人之間的智力差距。換句話說，史上第一台超級聰明的機器將會是人類的最後一項發明──而這台機器需要夠聽話，還願意告訴我們如何控制它。」
根據歐米茄團隊的想法，一旦進入上述遞迴式自我強化過程，過不了多久，普羅米修斯的聰明才智就能夠讓它自主學會所有人類技能了。

輕鬆賺到第一桶金
時間是星期五早上九點，也是歐米茄團隊正式推出普羅米修斯的時刻。安裝在專屬機殼中的普羅米修斯嗡嗡作響，而所謂機殼則是一排又一排的金屬架，置於設有空調並且嚴格管控進出的房間裡。為了安全起見，普羅米修斯完全自外於網際網路，不過卻用離線備份的方式蒐羅了許多網站的內容（諸如維基百科、美國國會圖書館、推特、 YouTube 選集、大多數的臉書頁面等等），做為普羅米修斯教育訓練與學習的資料庫。這是刻意挑選過的時間點，目的是避免外界干擾：親朋好友會以為團隊成員這個週末是去參加公司安排的內部訓練營。茶水間內隨處可見微波食品和機能飲料，而躍躍欲試的歐米茄們已經準備好要大顯身手了。
最初依照人工智慧系統程式運作的普羅米修斯，表現得還略遜人類一籌，但是很快就急起直追了起來 —歐米茄團隊成員大口暢飲紅牛能量飲時，普羅米修斯則是以相當於數千人年時的進度，迅速處理各種疑難雜症，到早上十點，普羅米修斯已經自行完成第一次大改版。升級後的普羅米修斯 2.0 雖然有所改良，但仍差人類一截，等到下午兩點升級成普羅米修斯 5.0 後，輪到歐米茄團隊的成員瞠目結舌了：最新版的普羅米修斯不但在各項績效評比都有超水準表現，而且改良的進度還似乎不斷加速。夜晚降臨時，歐米茄團隊決定以普羅米修斯 10.0 版進入計畫的第二階段：設法大賺一票。
他們第一個目標是 MTurk ，也就是亞馬遜推出的土耳其機器人（Mechanical Turk）。 MTurk 是在 2005 年上線的群眾外包網路平台，推出後大受歡迎，目前吸引了全球數以萬計的匿名人士不分晝夜競相挑戰高度專業化的困難工作，亦即所謂的人腦智慧任務（HIT）。
這些工作內容包括為錄音檔做逐字稿、為影像檔分門別類，或是替不同的網頁寫簡介等等。儘管內容不盡相同，但是卻有一點萬變不離其宗：如果做得夠好，就不會有人知道這是由普羅米修斯的人工智慧達成的。普羅米修斯 10.0 版在處理土耳其機器人的工作時，約有半數達到堪用水準，因此歐米茄團隊和普羅米修斯聯手針對這些完工的項目，分別寫出精簡版的專用人工智慧軟體模組，這些模組除了處理個別項目的工作內容外，不做他用。隨後，他們把這些軟體模組上傳到亞馬遜的網路服務中心 —一個可以在租用的虛擬主機上執行指令的雲端運算平台。接下來，每當他們付一塊錢給亞馬遜的雲端運算部門，就反手從亞馬遜的土耳其機器人部門賺回不只兩塊錢，亞馬遜恐怕沒有想過，在自己公司內部居然也會有這樣難以想像的套利空間吧！
為了掩人耳目，歐米茄團隊在前幾個月就已經用不同的假名，分別申請了好幾千個 MTurk 帳號，而普羅米修斯設計出的軟體模組就剛好可以套用這些帳號跟身分。 MTurk 平台上的客戶通常會在收到作品後八小時付款，歐米茄團隊隨即用收到的尾款添購更多雲端運算資源，讓不斷改良成最新版的普羅米修斯繼續提供更優異的軟體模組。由於歐米茄團隊大約每八小時就能讓收益倍增，所以很快就囊括所有了 MTurk 上的工作邀約，並且發現如果不想引人側目，每天最多能進帳的金額就是以一百萬美元為限，不過這已經足夠他們進入下一個階段，不用硬著頭皮向公司財務長開口要求金援了。
歐米茄團隊開始聚焦在高價值、純數位（避免生產過程延誤）、簡單易懂（像是文字或電影這些不用擔心計畫曝光的內容）的產品線上，最後他們決定設立傳媒公司，從動畫片開始做起。相關的網站、行銷方案和新聞稿，都早在普羅米修斯變得超級聰明以前就準備妥當 —現在就只缺數位內容而已。
雖然普羅米修斯在星期天早上的表現已經夠讓人吃驚，不停從 MTurk 平台上攢錢，但是它發揮智力的範圍仍相當有限：普羅米修斯能深思熟慮設計出最佳的人工智慧系統程式，也能寫出軟體解決令人頭皮發麻的 MTurk 任務，但是像拍電影這種工作就顯得很不拿手。不拿手的原因其實也沒多深奧，就跟大導演卡麥隆（James Cameron）剛出生時也不會拍電影一樣：這畢竟是需要花時間才能學會的技能。跟一般兒童一樣，普羅米修斯可以從任何能接觸到的資料中學習，相較於卡麥隆花了好幾年的時間學會閱讀跟寫作，普羅米修斯不過從星期五才開始正式推出，自然需要時間讀遍維基百科的內容和數以百萬計的作品。更難的拍電影就先不提了，寫出令人感興趣的劇本，難度跟寫書相比也不遑多讓，都需要深入理解人類社會和能讓人樂在其中的事物。把劇本轉換成最終的動畫影像，除了要對劇中人物的光影效果進行大量處理，還需要搭配劇中人物穿梭其中的複雜場景，再加上模擬的語音和引人入勝的電影配樂。
等到星期天早上，普羅米修斯已經有能力在一分鐘內看完兩小時的電影，所謂的「看完」還包括瀏覽與電影相關的所有書籍和線上的影評。歐米茄團隊注意到，普羅米修斯狼吞虎嚥消化掉上百支電影後，開始有能力準確預測哪些電影大概會得到何種評價、會吸引哪些不一樣的閱聽大眾。普羅米修斯接著還學會自己寫影評，看起來還展現出相當鞭辟入裡的火候，從電影情節到演員演技再到打燈和攝影角度等技術細節都能言之有物，歐米茄團隊認為這顯示，讓普羅米修斯自製影片的話，它已經能掌握可獲得成功的要素了。
歐米茄團隊要普羅米修斯先把注意力集中在製作動畫片，這樣就不用回答虛擬演員的本尊是何方神聖的尷尬問題。星期天晚上，他們決定在這個瘋狂的週末忙裡偷閒，人手一杯啤酒配上微波加熱的爆米花，在昏暗的燈光中欣賞普羅米修斯隆重推出的處女作。這是仿效迪士尼「冰雪奇緣」的奇幻喜劇片，劇中所有光影處理都透過普羅米修斯封存在亞馬遜雲端平台的程式進行運算，幾乎花光了它每日從 MTurk 平台賺進的百萬所得。電影開始播放時，歐米茄團隊成員既期待又怕受傷害，畢竟這是完全沒有人類參與、由機器獨立製作完成的電影。但是過不了多久，他們不但隨劇中的笑點樂不可支，摒息期待劇情的轉折，有些人甚至會為了充滿情緒張力的結尾默默掉淚，融入電影情節中的他們已經徹頭徹尾忘了，製作電影的並不是真人。

（摘自本書序曲）

【序曲】
歐米茄團隊是這家公司的靈魂。公司其他部門負責透過各種低階人工智慧建立起的商業模式，替公司帶來維持營運的資金，歐米茄團隊則是負責往前探索、尋求突破的工作，目的是為了實現執行長的夢想：打造通用人工智慧。大多數公司員工把口中戲稱為「小歐米茄」的團隊當成建造空中閣樓的人，畢竟這個團隊追求的目標還太久遠，緩不濟急，不過他們還是很推崇歐米茄團隊，因為這個團隊的尖端科技不但帶給公司受人尊重的地位，三不五時推出改版的演算法也讓其他部門受益匪淺。
不過其他部門的人卻不知道，歐米茄團隊在精心營造的形象下蘊...

序曲 歐米茄傳奇

第1章 歡迎參與這個時代最重要的對話
人工智慧發展到極致，會對人類造成什麼影響？
這是我們這個時代最重要的討論，你我都不應該置身事外。

第2章 東西變聰明了
什麼是智慧？人工智慧的定義又是什麼？
人類有可能打造出比自身更聰明的東西嗎？

第3章 近未來：科技突破、程式漏洞、法律、武器與就業
人工智慧已經愈來愈聰明了，在許多領域也有吃重的地位，
這對我們造成了什麼影響，我們要如何獲取最大利益並不受傷害？

第4章 人工智慧爆炸性發展？
當人類水準的通用人工智慧出現後，人類就會被遠遠甩在後頭，
屆時的世界會變成怎樣，端看我們現在的決定。

第5章 未知的來世：一萬年之後
一萬年之後的世界，是我們在控制人工智慧，
還是人工智慧會控制了我們？

第6章 挑戰宇宙潛藏的極限：十億年之後
人類飛向浩瀚宇宙的心願，要如何靠人工智慧來完成？
我們能否飛向宇宙盡頭、是否確定我們不是宇宙唯一？

第7章 何謂目標
我們的宇宙是有目標的，甚至DNA也內建了目標要求生物執行。
聰明的人工智慧將來會不會也有了自己的目標，開始特立獨行？

第8章 何謂意識
意識到底是什麼，至今眾說紛紜，
而無生命的人工智慧若也有意識，人類將要如何面對與因應？

結語 未來生命研究所的故事

序曲 歐米茄傳奇

第1章 歡迎參與這個時代最重要的對話
人工智慧發展到極致，會對人類造成什麼影響？
這是我們這個時代最重要的討論，你我都不應該置身事外。

第2章 東西變聰明了
什麼是智慧？人工智慧的定義又是什麼？
人類有可能打造出比自身更聰明的東西嗎？

第3章 近未來：科技突破、程式漏洞、法律、武器與就業
人工智慧已經愈來愈聰明了，在許多領域也有吃重的地位，
這對我們造成了什麼影響，我們要如何獲取最大利益並不受傷害？

第4章 人工智慧爆炸性發展？
當人類水準的通用人工智慧出現後，人類就會被遠遠甩...