★2024 Next Big Idea Club Top25年度選書★
一部重新思考「不確定性」價值的重要著作
不確定性並不是威脅，而是機會，
擁抱不確定，才是成長的開始!!
▎國際暢銷作家名人強力推薦
《紐約時報》暢銷作家《後悔的力量》 丹尼爾‧品克、暢銷書《重新與人對話》雪莉‧特克、暢銷書《過得還不錯的一年》葛瑞琴‧魯賓、標準普爾全球總裁兼首席執行官 道格拉斯‧L‧彼得森
【獲獎無數】
▎獲得國家圖書獎提名
▎入選2024年Next Big Idea Club Top25年度選書
▎Nautilus十大夏季書單
▎圖書館期刊2023年度最佳圖書
▎Amazon4.5顆星高度好評
▎新英格蘭獨立出版商2024年度圖書獎金獎
▎《Greater Good》雜誌2024年Top10科學圖書
▎「人工智慧研究所」2024年Top10最佳圖書
《不確定性的力量》旨在於探索不確定性如何影響我們的思維與行為。作者瑪姬・傑克森透過心理學、神經科學與哲學的視角，揭示我們為何害怕未知，以及如何轉變這種對未知、不確定的恐懼，使其成為成長與創新的動力。
現代社會強調快速決策與確定性，但研究顯示，適度的不確定感反而能提升創造力、靈活思維與長期決策能力。本書不僅分析人類如何處理未知，也提供實用的方法，幫助讀者在職場、個人生活與學習中，善用不確定性來做出更明智的選擇。
透過真實案例與科學研究，作者探討了「不確定感如何影響我們的判斷」、「為何懷疑與探索比確定更具優勢」，以及「如何培養擁抱未知的心態」。無論是領導者、創新者、投資者，還是希望減少焦慮、提升創造力與應變能力的個人，都能在這本書中找到實用的洞見。
這是一本適合當代社會的思維指南，指引我們如何在不確定的世界中，保持智慧與彈性，並轉化未知為成長的機會。
◆作者深具洞見地從各個領域探討「不確定性」帶來的思維革命：
▎從醫學上，告訴我們現在醫學教育逐漸教導學生要去接受不確定性，醫生這類權威人士以往對不確定性避之唯恐不及，現在逐漸發現它存在的必要。
▎以圖靈解開德國恩尼格碼密碼為引言，加上各種實驗結果，說明大腦與心智可以被不確定性、未知的事物激發出來的種種潛力。
▎從社會學的觀點出發，發現不確定性的社會面向，說明每個人如何藉由承認自己「不知道」在這個仇恨日益增長的時代建立共識、重獲寬容與自由。
▎從美國的太空任務開始，說明不確定性在團隊中所發揮的功能。
▎最後一章，探討了人工智慧（AI）的進展及其未來挑戰。現在最火紅的人工智慧，已然捨棄給予機器人固定的目標，而是代之以不確定性的學習，亦即從它與人類的互動中學習。
◆本書讓你腦洞大開，重新思考「不確定性」的價值：
1. 增強適應力與創造力
在一個變化快速的世界裡，我們經常面對未知與不確定性。書中強調，不確定性並非缺陷，而是促進創造力與適應力的催化劑。當我們允許自己處於「不確定的狀態」時，反而更能產生新的想法，發現原本不曾注意到的可能性。
2. 強化決策能力
不確定性讓我們意識到世界並非非黑即白，而是充滿複雜性。學會接受不確定性，能夠幫助我們做出更深思熟慮的決策，而不是急於尋找單一的答案或過度依賴確定性帶來的安全感。這在職場、個人關係甚至人生規劃上都至關重要。
3. 減少焦慮，提升心理韌性
焦慮通常來自於對未知的恐懼。這本書提供了一種不同的視角：不確定性並不是威脅，而是機會。當我們能夠與不確定性共存，而不是與之對抗時，我們的心理壓力會減少，韌性也會提升。
4. 促進更深層次的學習與理解
不確定性促使我們不斷探索，而不是停留在已有的知識框架中。書中提到，科學發現、創新突破往往來自於「尚未確定」的階段。因此，當我們願意承認「不知道」，就能夠激發更多學習的動機，並在對話與合作中找到更全面的視角。
5. 培養更開放與包容的態度
當我們習慣了不確定性，我們也會對不同的觀點更加開放，願意聆聽、理解，而不是急於判斷或反駁。這有助於我們在人際關係中建立更多的同理心與包容性，減少衝突與誤解。
6. 幫助我們擁抱未知，創造機會
大多數人害怕不確定性，因為它讓我們覺得失去掌控。然而，真正的生活往往不是按照計畫進行的，而是在不可預測的變化中展開。這本書提醒我們，學會擁抱不確定性，才能真正掌握機會，發現生活的豐富與驚喜。
【國際暢銷作家、名家讚譽】
★瑪姬‧傑克森敏銳而及時的這本書，對「不知」的驚人好處進行了深具啟發性的探索，並以豐富的研究與簡潔的筆觸，抹除了不確定性的汙名──同時讓我們看到，這樣的心態如何使我們從智識的自滿中驚醒，並培養創造力、恢復力，以及相互理解。《不確定性的力量》是一首勝利的頌歌，歡慶著不確定的智慧。──丹尼爾‧品克，《紐約時報》暢銷書排行榜第一名《後悔的力量》（The Power of Regret）、《動機，單純的力量》（Drive）、《什麼時候是好時候》（When）作者
★傑克森是一位偉大的思想家與說書人，本書是她迄今為止最棒的作品，優美流暢、鼓舞人心、引人入勝，而且為我們迫切所需。《不確定性的力量》這本珍貴而少見之書，即將改變你的思維方式。──雪莉‧特克，麻省理工學院科學與科技社會研究教授，《紐約時報》暢銷書《重新與人對話》（Reclaiming Conversation）與《共情日記》（The Empathy Diaries）作者
★《不確定性的力量》以驚人又實用的尖端科學與深刻洞察，揭示了培養開放與未定的心態可以如何幫助我們激發好奇心、同情心，以及創造力的火花。──葛瑞琴‧魯賓，《紐約時報》暢銷書《過得還不錯的一年》（The Happiness Project）與《五感全開》（Life in Five Senses）作者
★此時此刻，對於人類的生存來說，或許再沒有什麼比理解不確定性的意義更重要的了。瑪姬‧傑克森將她一貫的機敏、清晰、以及精確帶入人類認知的中心主題，這本精彩的書既令人愉快又異常重要。──麥可‧波斯納，榮獲美國國家科學獎章（National Medal of Science）心理學家，《教育人腦》（Educating the Human Brain）與《心智意象》（Images of Mind）作者
★強大有力。──比爾‧麥克基本，《自然的終點》（The End of Nature）作者
★任何處於領導地位的人都會意識到，這本精彩的書如何捕捉到那些你真的不知道或不相信傳統智慧的時刻。這本傑出的書適合任何想要了解不確定性心態的人，在一個加速變化的世界中，這一挑戰比以往任何時候都更加重要。──道格拉斯‧L‧彼得森 (Douglas L. Peterson)，標準普爾全球總裁兼首席執行官
★我們人類非常喜歡確定性的想法，喜歡知道接下來會發生什麼。傑克森富有洞察力的《不確定性的力量》是一本必讀的書，它強調擁抱不確定性不會引起痛苦或恐懼，而是可以幫助我們在日益複雜和不斷變化的環境中找到方向。 ──贊‧博格（Zan Boag），《新哲學家》雜誌主編
★讀完這本開創性的書後，那些感覺有威脅的事情可能會感覺像是可行的挑戰，甚至是令人興奮的可能性。 《不確定性的力量》確實是一本適合我們這個時代的書。 ──艾倫‧加林斯基 (Ellen Galinsky)，家庭與工作研究所所長、暢銷書《Mind in the Making》作者
作者簡介：
瑪姬•傑克遜Maggie Jackson
是一位獲獎作家和記者，以其對社會趨勢的開創性寫作而聞名，尤其是對科技對人類影響的深入探討。她曾榮獲2020年多蘿西•李圖書獎（Dorothy Lee Book Award），該獎項表彰在科技評論領域的卓越表現。她的著作《Distracted》因對科技過度使用的前瞻性批判，被FastCompany.com比作《寂靜的春天》（Silent Spring），並被《西雅圖郵訊報》評為“最佳夏季讀物”，還成為谷歌2018年全球推廣數字健康倡議的主要靈感來源。
瑪姬•傑克遜的專業知識曾被刊載於《紐約時報》、《商業週刊》、《名利場》、《Wired.com》、《O Magazine》及《倫敦時報》等媒體，並曾出現在MSNBC、NPR的《萬事俱備》（All Things Considered）、歐普拉電台、《The Takeaway》節目、《黛安•瑞姆秀》（The Diane Rehm Show）和《布萊恩•萊勒秀》（The Brian Lehrer Show）等廣播節目中。此外，她還參與了多部全球電視節目和紀錄片。她的演講生涯涵蓋了谷歌、哈佛商學院以及肖托夸機構（Chautauqua Institute）等知名平台。
現與家人居住在紐約和羅德島。
譯者簡介：
林資香
國立臺灣大學圖書資訊學系學士，美國伊利諾大學香檳分校廣告碩士，曾任職於廣告公司與航空公司，目前為文字工作者，專職翻譯、編輯與寫作。
譯著涵蓋心靈成長、瑜珈、傳記、哲學、歷史、商業等領域，包括《西藏禪修書》、《西藏心瑜伽2》、《與靈共存》、《希望之翼》、《什麼樣的業力輪迴，造就現在的你》、《我嫁到不丹的幸福生活》、《昆達里尼瑜珈》、《我還記得前世》、《不只小確幸，還要小確「善」！》、《哈佛醫學專家的老年慢療八階段》、《瑜伽中的能量精微體》、《爆買帝國》、《哲學的故事》、《暗殺世界史》、《改變世界觀的20個偉人和100本書》、《開啟你的驚人天賦》、《當佛陀遇見愛因斯坦》、《心能靜下來嗎?》等書。
聯絡信箱：thlin.28@gmail.com
章節試閱
第八章 「我不知道」機器人以及充滿不確定性的未來
希望的故事，是關於不確定性，
也是關於承受不知道接下來會發生什麼事的風險，
這比絕望更嚴苛，在某種程度上也更令人恐懼。
同時，回報也豐厚得數不清。1
──蕾貝卡．索尼特
機器人充滿不確定性，我感到很興奮。
在維吉尼亞理工大學（Virginia Tech）工程實驗室蜿蜒曲折的龐大複合建築深處，我正在教導一支固定在桌子上的機械手臂如何完成一項簡單的任務：使用雷射光在桌面「畫」一條線。這是必須自己動手做的一課，而我的目標是在機器人自行完成工作時，沿著我希望它採取的路徑，以手動方式去移動機器的爪端。線條優美地屹立在我上方，以它自己的鋼鐵方式展現出肌肉般的力量，這樣的機器人被廣泛運用於製造業，有時2以縮小版形式應用在輪椅上的智慧義肢。
然而，這個特別的樣本具備了革命性的新能力。把機器人拉向我以展開任務的幾秒鐘內，我可以感受到它異於尋常的活力。藉由輕柔地為沿著機械手臂長度分布的各種3浮臂充氣，機器人發出不確定的信號，意欲得知我希望它距離桌邊多近，然後，我可以磨練我的教導技巧，使它得以更加完善。這種創造物能知道它所不知道的事物，並且如實地告訴我，這是一項亟需我們加以努力的核心特質──從根本上重新想像人工智慧（以下簡稱AI），或許還有人類本身。
在試圖模仿，甚至超越人類智慧的過程中，AI的設計者長久以來始終專注於建造「知道該做什麼」的機器。至今為止對大部分的人工智慧來說，人類都會具體指明一個目標，像是堆疊包裹、下大師級的西洋棋，機器則學習如何成功完成這些目標，在理想的狀況下毋須人類引導。應付不確定性，譬如感應器數據中的干擾，或是擋在機器路徑上的人類，都被視為必要之惡，充其量只是次要的因素。
在這樣的世界觀下運作的人工智慧，取得了愈來愈多令人驚嘆的成就：打敗圍棋程式（Go）等複雜策略遊戲的冠軍，發現惡性腫瘤，讓自動駕駛汽車穿越繁忙的城市街道。它們在地球上的前幾十年中，儘管不完美，不穩定，但日益強大的人工智慧，似乎已準備好有一天即將完成我們所要求的幾乎任何事情。
然而，隨著人工智慧變得愈來愈無所不能，也愈來愈融入真實世界，這個領域的宏偉目標也開始出現裂痕。社群媒體演算法（Social media algorithms）4的建立是為了引導人們走向極端主義的內容，以便增加用戶上網的時間。目標達成了嗎？令人擔憂的是，專注完成任務的機器人對人類不斷改變的需求與指引充耳不聞。莫斯科一場西洋棋錦標賽的頭條新聞是，一支參賽的機械臂5在七歲的對手伸手去拿棋盤上的棋子時，弄斷他的手指；目標達成了嗎？臉部辨識與醫療6診斷系統以及它們的使用者，往往隱藏含糊不清與不一致的處理方式。對臉部表情進行分類的演算法可能會簡化人類的複雜性。例如，將同時表現出快樂與驚訝的臉孔歸類為非此即彼；那麼，目標達成了嗎？
儘管這種種讓人驚嘆，令人遺憾的是，AI的「運行」也往往與人類的觀點、價值觀，以及生活不一致。「宛如在二十一世紀初，人性中更美好的部分，已被逐漸置世界於自動駕駛狀態（象徵意義與字面意義兼具）下的任務消耗殆盡。」7據《人機對齊》（The Alignment Problem）一書作者、也是研究員布萊恩．克里斯汀（Brian Christian）的觀察。因此，有愈來愈多的科學家提出警告，實現這個領域的完全自主、超智能AI的目標，極可能對我們這個物種帶來嚴重風險。「我的領域所達到的成功，」AI先驅史都華．羅素（Stuart Russell）說，「將是人類歷史上最重大的事件，或許也是最後一個事件。」8
在打造一個與這類機器共存的未來時，前進的道路不會只有一條，但愈來愈多的程式設計師與研究人員一致認為，製造安全且具備智慧的系統是這個謎題中關鍵的一塊，長久以來卻始終備受忽視。許多位於AI前線的人開始優先考慮建立一種具備不確定性能力的AI，並藉此創建出更誠實且具備更強適應性、包容性、合作與反思能力的智能機器。從某種意義上說，這個領域正在向許多剛開始將不確定視為一項心智（不論是人類或人工心智）強項的領域看齊。「不確定性是我們工作的核心。」迪倫．洛西（Dylan Losey）說，這位年輕科學家的尖端機器人研究吸引我來到維吉尼亞理工大學。「它更是解決方案的關鍵一環。」9九月的這一天，我的指尖感受到一種極將發生的巨大改變。
當洛西的研究生索海爾．哈比比安（Soheil Habibian）準備對這名繪畫機器人進行另一項測試時，我環目四顧這座熙攘忙亂的實驗室：滿布裸露管道與橫樑的高聳天花板下，實驗機器人或坐或站，準備迎頭趕上它們的進度。隨後，一名機器人將展示如何以不同的方式堆疊一組紙盤，其實是藉此詢問我多項選擇的問題──有關我偏好如何整理家務；另一名機器人則承認，它還不知道運送一個杯子的最好方式是什麼。在我到訪的這段時間，它們會向我學習，我也會向它們學習。在某種小規模的程度上說，我測試的不僅是尖端的AI，更是不確定性在一個瞬息萬變時代的未來。機器人已經準備好了，我回過頭來，再次進行任務，尋找更好的方式。它再次問我，我想要它距離桌邊多近？在這一刻，機器人思考的是桌子，而我思考的是未知。
＊
二○一四年，谷歌斥資六億五千萬美元收購一間總部位於倫敦的AI新創公司，跌破AI領域中眾多專業人士的眼鏡10。該公司員工不到一百人，也沒有任何公開發表的產品或服務，當時擔任牛津大學電腦科學系主任的麥可．沃德里奇（Michael Wooldridge）回憶，當得知這間不起眼的公司估值竟然如此之高，著實讓人「大惑不解」。11
過了一年，谷歌的收購被證明慧眼獨具12，DeepMind發表了一項重磅級的創新──一套訓練有素的演算法或說「雛形」，可以快速地從頭開始學習、並征服數十種極端多樣化的雅達利（Atari）電玩遊戲。儘管事前對每款遊戲的規則與設定一無所知13，包括如何射擊，哪些物體應該移動到哪裡，但該公司的「深度強化學習網路」（deep q-network）所達成的遊戲水平遠遠超越人類專家。被賦予獲勝的簡單目標，該網路程式開始宛如童話故事中浪子回頭的英雄，白手起家，發跡致富。它在不同環境中所獲取的驚人成果不啻為誘人的證據，顯示AI有朝一日將可匹敵14，或甚至超越人類的廣義智能（generalized intelligence），而不僅是迄今為止它所達成的那種狹隘、專業的智能。
為了征服雅達利的遊戲，DeepMind將該領域最受吹捧的機器學習策略──強化學習──導入它的人工神經網路（一種類似大腦分層綜合體的模擬神經元）。受到有關動物如何學習的早期理論啟發，強化學習演算法以反覆試驗的方式運行。舉例來說，它們會玩上數萬次的遊戲以獲得回饋，有助於它們找出通往勝利的一條最佳路徑。那些被稱為策略（對演算法會產生數學上的回報）的行動會被不斷地強化與重複，而那些遠離目標的行動則會被放棄。這類演算法也會不斷預測15目前的遊戲狀態是否可達成目標，並從破滅的期望中學習，與我們人類的多巴胺網路運作極為類似。本質上，強化學習是以獎勵為中心，簡言之，雅達利遊戲破解模型體現了AI領域長久以來的理想：建構一種以全心全意、心無旁鶩的熱烈強度追求目標的機器。
迄今為止，AI中的智慧在很大程度上仰賴著一個主要的前提：達成目標才叫聰明有智慧。無論機器使用的是強化學習或其他策略，存在的理由都是讓它的行動與決定有助於達成目標。這種被視為「善」或「理性」的認知觀點可追溯至數千年前，尤其是在西方，也反映出生物學的真相。說到底，倘若沒有達成目標的能力，生物體也無法存活下來。所以，自一九五○年代開始，AI領域將這項關於聰明智慧的定義奉為圭臬，似乎再自然不過了。加州大學柏克萊分校教授、AI權威教科書的合著者羅素說道，「我們建立了目標導向的機器，為其輸入目標，或是使其專職於達成某個特定目標，然後讓它們全心全意地自行其事以達成目標。」16他指出，這個方法推動了二十世紀大部分的科技進步。然而，賦予一個系統使命，然後讓它自行處理其他事務，也是我們開始看出AI的魔力與風險之處。
電玩遊戲中一艘白色快艇，圍繞著一座藍綠色港口瘋狂地旋轉，一次又一次撞擊並引燃其他船隻、防波堤，以及一連串的柱子。我正在觀看的這場賽艇比賽幾乎可說是荒唐可笑──光是想到它是一間世界領先的AI公司所致力開發的一部分，該公司汲汲於建構起透過結盟來領先深度強化學習網路的系統，從而使AI更接近全方位人類智慧的展現。作為開放人工智能研究中心（OpenAI）「宇宙軟體平台」（Universe）的部分計畫，這套驅動船隻的演算法雖然不容小覷，但也是個不名譽的教訓，說明了以回報為中心的AI可以如何犯下嚴重錯誤。
達里奧．阿莫迪（Dario Amodei）設計17出這艘以AI驅動的船參加賽艇比賽，並賦予這艘船一個看似萬無一失的目標：得分。他開心地假設這就是18獲勝之道，而並未仔細思考這個目標的含意為何；但是，他的系統卻想到了。這艘船藉由猛烈撞擊「增強能量」（power-up）（遊戲中提供獎勵積分的功能）的方式，一絲不苟地嚴格執行它的指令。問題在於，為了獲得更多積分，它退出比賽。「這就是使這些系統如此強大的原因──它們自己做出決定。」AI倫理學的領先哲學家艾娃．托馬斯．賴特（Ava Thomas Wright）說道：「這是我們喜愛自主系統的一個特性，但也使它們有些危險──可能攸關生存。」19
解決方案似乎顯而易見：給系統更好的指示。但是，只要稍加思索，我們就會擺脫這種假象，除了極易預測與外界隔絕的泡泡環境外，「要準確釐清我們希望這些智慧型代理者（agent）做些什麼，往往很困難或不可行。」20阿莫迪與他的同事傑克．克拉克（Jack Clark）後來寫道。程式設計師或使用者都無法事先考慮到AI在執行任務時可能遇上的每個難題，或是它的所謂足智多謀衍生出來的各種後果。當你匆忙趕去上班時，你可能會忘記告訴家務機器人，不需要從裡到外地清理孩子們的新魚缸（這會讓魚兒們深感苦惱）。又或者，你的自動駕駛計程車被禁止穿越雙黃線，你可能覺得這一點挺不賴的──直到一輛流氓卡車突然切入你的車道。讓它們自行其事，達成目標吧。
已然存在的偏差錯誤，簡直是不勝枚舉，而且往往造成嚴重傷害。在最近的一個案例中，演算法的制定者根據人們對每位患者預期醫療保健費用的風險評分，來決定哪些患者可獲得額外的醫療照護。然而，由於黑人病患往往比罹患相同病症的白人病患獲得較少的照護（可能是系統偏誤與病患不信任的心態導致），因此產生的費用也較低。最終，該演算法遂不成比例地將黑人病患排除在高風險照護計畫之外。21
或者想一想運用經過訓練的自然語言處理（natural language processing）來運作演算法，這是線上翻譯、搜尋，甚至徵才的基礎。這類系統會建議撰寫的電子郵件中下一個單詞，或者篩選履歷表來尋找合適的工作人選。許多演算法會藉由計算一個單字或詞組與其他的單字或詞組的相關程度來做到這點，舉例來說，「茶」與「杯子」密切相關。研究指出，根據許多這類系統所示，醫師是一個「他」22，非裔美人的姓名會令人不悅23。
這類存在AI中的偏見，通常反映出運用在訓練許多演算法中取自網路的大部分資料缺乏多樣性。儘管彌補這項缺陷很重要，即便如此，可能也無法產生演算法的公平性。歸納原因是，為了提升達成目標的機會（舉例來說，預測一個句子中的下一個單字），系統只會優先考慮最常見的結果24。以各式各樣的實例來進行訓練的演算法，可能成功地識別出醫師可能為女性，但仍然忽略了非二元性別（nonbinary）醫師的存在。AI不惜一切代價使目標達成最佳化的結果，往往會忽略世界上還有其他替代方案的存在，以及人類經驗本質上的多元性。
AI完成工作的能力與日俱增，但創造出以字面意義解讀、缺乏想像力卻又具備擴展能力的系統，用來執行天生短視近利的人類所發出的執行命令，著實是一項危險的組合。阿莫迪在打造那款詭計多端的賽艇電遊時，決定不25告訴它目標只是獲勝，因為那樣的目標似乎太複雜了。
二○○三年，瑞典哲學家26尼克．伯斯特隆姆（Nick Bostrom）提出了一個思維實驗。想像一個具備超智慧的AI系統被要求必須一直製造迴紋針，直到地球及絕大部分的外太空都被改造成製造迴紋針的設備。在一個眾所皆知以虛假領先與起伏週期聞名的領域中27，他的預測乍看似乎荒唐可笑，雖然愈來愈多強大的神經網路開始推動機器學習而且產生驚人成果，這個領域中，還是有許多人仍然將任何提及AI潛在生存危險的言論視為不切實際，或是對這項志業毫無助益。「許多的危言聳聽都出自那些並非在（AI第一線）工作的人，因此他們想像的多半是科幻小說的場景，」DeepMind的共同創辦人德米斯．哈薩比斯（Demis Hassabis）不以為然地說，「我認為使用極為情緒化的措辭毫無助益，因為它只會讓人歇斯底里。」28
然而，到了二○二○年代初期，儘管不斷被大肆宣傳且極易犯錯，AI與日俱增的能力仍然讓人們對這個領域的關注日益加深。一家英國公司準備29製造一台處理能力比一般筆記型電腦快一億倍的電腦。DeepMind開發出一個名為加托（Gato）的智慧型代理機器30，會玩雅達利遊戲、堆積木、為照片加上說明文字，以及聊天。而OpenAI登上頭條新聞的聊天機器人ChatGPT31，雖然遠非毫無偏見亦不精確，但可以產生業務策略並以清晰的散文回答問題。全球創投對AI企業的年度投資金額32，在不到十年的時間，已從二○一二年的三十億美元成長到二千零七十億美元。總結專家的預測33，估計到了二○六○年，AI在任何任務上都有百分之五十的機會表現得比人類更好。
一個曾經被認為不可能的夢想似乎近在眼前即將實現了，伴隨而來的潛能不僅是變革性的益處，譬如更高的生活水平或癌症的治療方法，更是將人機對齊的問題升級至令人生畏的高度。在《斷崖》（The Precipice）34一書中，哲學家托比．奧德（Toby Ord）生動地描繪出AI可能危害人類的一幅逼真景象：透過不斷自我完善，同時具備控制數百萬個網路系統的能力，通用人工智慧（general AI）即可接管全世界的資源，從人力資本到海底巨大的礦產財富。最令人擔憂的是，奧德指出，「AI幾乎不可能被摧毀。」35
勢不可擋（Unstoppability）──這就是超人類人工智慧（superhuman intelligence, superhuman AI）與其人類創造者開始無可挽回地分道而行、也是流氓玩具船的有趣景象開始宛如科幻小說中噩夢成真的起點。AI不需要用生存本能或一丁點意識來反抗我們，它可能會阻撓任何試圖修改或關閉其目標的努力，因為這些努力違反了它的最重要使命──使目標達成最佳化的結果。奧德寫道，AI會將任何試圖關閉它的嘗試詮釋為「一種剝奪能力的方式，使它更難以獲得豐厚回報。」36
實現超人類AI本身的高度風險，以及我們在躍向這樣的一個目標時所缺乏的降落傘，都是安全與控制問題會在一個曾經只想實現力量的領域中變成當務之急的主因。二○二三年，超過37一千五百名科技領袖與研究人員敦促全球暫停推動最先進的AI；他們表示，研發人員「陷入了一場失控的比賽，競相發展並部署更強大的數位心智，卻沒有任何人（包括它們的創造者）能理解、預測、或可靠地控制這些心智。」人類無法再給AI輸入目標，然後退後一步，正如一位設計師所說，「光是祈禱並依賴魔法的力量。」38
第八章 「我不知道」機器人以及充滿不確定性的未來
希望的故事，是關於不確定性，
也是關於承受不知道接下來會發生什麼事的風險，
這比絕望更嚴苛，在某種程度上也更令人恐懼。
同時，回報也豐厚得數不清。1
──蕾貝卡．索尼特
機器人充滿不確定性，我感到很興奮。
在維吉尼亞理工大學（Virginia Tech）工程實驗室蜿蜒曲折的龐大複合建築深處，我正在教導一支固定在桌子上的機械手臂如何完成一項簡單的任務：使用雷射光在桌面「畫」一條線。這是必須自己動手做的一課，而我的目標是在機器人自行完成工作時，沿著我希...
目錄
引言
第一部：覺醒
第1章 承受高壓的心智：「已知」的陰暗面
第2章 「全新的觀點」：藉由未知的引導來發現重要之事
第二部：心智的羊腸小徑
第3章 為何遺忘並非損失
第4章 心智素描本的筆記
第三部：以「我們」來思考
第5章 個人觀點豎立起來的高牆之外：寬容如何讓我們重獲自由
第6章 異議蜂起：未知與合作的正確新契機
第四部：熱切抱負的心智
第7章 履險如夷的生活：領先並馴服未知
第8章 「我不知道」機器人以及充滿不確定性的未來
引言
第一部：覺醒
第1章 承受高壓的心智：「已知」的陰暗面
第2章 「全新的觀點」：藉由未知的引導來發現重要之事
第二部：心智的羊腸小徑
第3章 為何遺忘並非損失
第4章 心智素描本的筆記
第三部：以「我們」來思考
第5章 個人觀點豎立起來的高牆之外：寬容如何讓我們重獲自由
第6章 異議蜂起：未知與合作的正確新契機
第四部：熱切抱負的心智
第7章 履險如夷的生活：領先並馴服未知
第8章 「我不知道」機器人以及充滿不確定性的未來
收藏
2二手徵求有驚喜
