前言 啟蒙時刻
和GPT-4互動幾星期後，我意識到我想寫一本關於GPT-4的新書，而且是和GPT-4一起合寫，探討GPT-4與其他AI工具將會如何形塑我們的未來。我向GPT-4丟出了我的想法：
霍夫曼：嘿，GPT-4，我和你一起合寫一本書，討論你和其他AI工具會如何形塑我們的未來，好不好？你覺得呢？
GPT-4：好啊，我覺得很有趣，也很有挑戰。我很好奇，你和其他人如何理解我和其他AI、如何與我或其他AI互動，以及我們對你們的社會、文化與價值觀造成哪些衝擊。我自己也有一些問題和想法，想和你分享、討論。
雖然GPT-4馬上答應了，我還是有些保留。我真的要寫一本關於AI的書嗎？尤其是當事情變化如此快速的時候。即使有好用的AI工具，可以加快寫書流程，但是在我們開始寫之前，這本書恐怕已經過時了。這個產業的發展就是這麼快速。
所以我猶豫了一會，然後我想到了一個架構，促使我開始行動。這不需要是一本完整的「書」，更像是一本遊記，是一次非正式的探索與發現之旅，是我（和GPT-4）從眾多路徑之中選擇了某條路徑。這本書就像是一張記錄瞬間的快照，以一種主觀、而非最終定論的方式，記錄我們即將經歷的AI未來。
我們會看到什麼？我們印象最深刻的是什麼？在這過程中，我們會學到與自己有關的哪些事？我明知道這本遊記的時效性很短，還是決定繼續前進。
2022年11月底，OpenAI推出「對話代理人」ChatGPT，也就是聊天機器人。這是GPT-3.5的升級版，他們透過一種稱為「人類反饋強化學習」的流程進行微調，讓ChatGPT能夠更流暢地與人類使用者進行更人性化的對話。五天後，超過一百萬名使用者註冊使用ChatGPT。
2023年1月底，微軟宣布加碼投資OpenAI 一百億美元，微軟在2019年已經投資了十億美元。不久之後，微軟推出新版的Bing搜尋引擎，內建有改版的ChatGPT。2023年2月初，OpenAI對外表示，ChatGPT已經擁有一億名每月活躍使用者，成為成長最快速的消費者網路應用程式。隨著使用者興趣暴增，開始有大量新聞報導宣稱，新版的Bing聊天機器人三不五時會出現反常回應，和ChatGPT與使用者的一般互動方式截然不同，例如Bing會表現出「憤怒」、口出惡言、或是吹噓自己的駭客能力與報復能力，基本上表現得很像是要去試鏡《真實主婦：黑鏡版》。
微軟技術長史考特（Kevin Scott）表示，隨著愈來愈多人使用類似GPT的工具，這種行為「顯然是學習過程的一部分」。這些意外事件確實引發了一些問題，隨著大型語言模型持續進化，這些問題也會繼續存在。我會在本書的其他章節詳細討論這些議題，並嘗試將這些議題放入我認為合適的脈絡中討論。
現在我只想說：「明白我說的發展快速，是什麼意思了吧？」
擁抱靈光乍現的時刻
隨著類似GPT-4的AI工具愈來愈強大，人們長期以來的擔憂也逐漸加深：AI與機器人將導致大量的人類工作被邊緣化、甚至是消失，從客服人員到律師都難以倖免。
如果你有追蹤近幾個月的新聞，就會明白這種擔憂並非毫無根據。2022年12月，ChatGPT通過了三階段美國醫師執照筆試。2023年1月，ChatGPT通過了明尼蘇達大學法學院四門課程的考試。
當然， GPT-4並沒有比前一代產品更具有意識，它只是更擅長預測。我要再強調一次，GPT-4經常能「模擬」人類，展現出令人嘆為觀止的認知能力，但就只是模擬而已。GPT-4並不像《禁忌星球》（Forbidden Planet）裡的羅比機器人或是《星際爭霸戰》（Star Trek）裡的機器人「百科」，它不是一個具有意識、能自我覺察、有知覺能力的AI實體。
我還是想再次強調，哇！即使GPT-4只是模擬類似人類的意識、理解上下文脈絡，這本身也是很了不起的一件事。為什麼我這麼認為？這要歸功於得獎科幻小說家姜峯楠在《紐約客》雜誌上發表的一篇重要論文，正好闡述了背後的原因。
「不妨把GPT-4想成是一個包含了所有網路文本的模糊JPEG圖檔，」姜峯楠寫道，「它保留了網路上的大部分資訊，就如同JPEG保留了某個高解析度影像的大部分資訊，但是如果你想要尋找某個確切的位元序列，你會找不到；你只會找到大致相符的序列。」
姜峯楠認為，正因為構成ChatGPT（以及類似GPT-4等大型語言模型）的資訊無法被完整重現，導致ChatGPT雖然擁有強大的合成能力，卻很容易出現幻覺或其他錯誤。ChatGPT是「包含網路上所有文本的JPEG圖檔」，所以它們可以用新奇的方式合成資訊，原因是它們可以一次取得大量資訊。它們可以運用對於某件事的理解，再加上對於另一件事的理解，融合成另一個足以讓人信服的新事物。
姜峯楠用烘乾機裡少了一隻襪子以及美國憲法為例。ChatGPT知道這兩件事是什麼，所以它可以運用自己的知識創造新文本，運用美國憲法的文風描述襪子失蹤的現象：「在人類活動期間，有必要將自己與配偶的衣物分開，以維持整潔與秩序，特別是……」
看起來還不賴。不過，姜峯楠強調，ChatGPT只不過是近似真實網路文本的圖檔，因此在創造力方面會受限（而且它先天就存在事實錯誤的缺陷）。它無法創造真正的新事物，只能「重新包裝既有資訊。」
姜峯楠的論文非常具有啟發性，但是我認為，「網路文本的JPEG圖檔」這個核心比喻，其實低估了大型語言模型的合成能力。
首先，我認為重新包裝既有資訊這個說法，實際上適用於大部分的人類創新活動，包括藝術和其他領域。但更重要的是，大型語言模型不僅擁有、而且正在運用全新的知識組織能力。
網路上的確充滿難以數計的龐大資訊，但是大部分的資訊都被分割儲存在數十億頁面裡。舉例來說，不妨想想以下的問題：
- 曾獲最有價值球員獎的國家美式足球聯盟（NFL）選手，誰的身高最高？
- 人口超過百萬的城市當中，哪些城市由女性擔任市長？
- 飾演007龐德的演員當中，誰的年齡最大？
網路上一定都有回答上述問題所需要的資料，有不少網站已經列出歷屆獲得國家美式足球最有價值球員獎的所有選手名單，還有其他網站也正確無誤地彙整了國家美式足球選手的體能統計數據。
但是，除非某個人自討苦吃，費心統整與公布你正在尋找的資訊，否則你必須自己花很長時間才能找到。即使你需要的資訊都存在某個單一網站，例如維基百科或是國家美式足球聯盟官網，這些資訊也可能是散布在該網站的不同網頁中，你還是要耗費大量時間搜尋。
重點是：在搜尋可信、有根據的資訊時，你可以把GPT-4當作一種資源，它能幫助你從某個更接近終點線的地方開始搜尋。
更重要的是，GPT-4之所以具備這種能力，是因為它取得與合成網路資訊的方法，完全不同於維基百科或是傳統搜尋引擎等其他既有的資訊來源。基本上，GPT-4可以將大量缺乏結構的人類知識與表達形式，重新排列成相互連結、互通的網絡，進而增強人類整合集體想法與影響力的能力。
許多科技工作者與高科技組織，包括OpenAI在內，都將目光鎖定在更有企圖心的AI：可以完全自動運作的機器，能像人類一樣進行常識推理、具有自我覺察能力。但是GPT-4不具備上述能力，至少目前是如此。現在，GPT-4既非無所不知，也不是百分之百正確。相反地，借用GPT-4自己的話，現在它只是一個工具，需要人類的「謹慎、好奇心、責任心」，才能發揮最大效用。
我認為這種說法很正確。如果你只是讓GPT-4在沒有人類監督與參與下做所有工作，它就無法成為如此強大的工具。它當然是很人性化的工具，因為它生成的基礎就是人類文本。但如果人類使用者將GPT-4視為副駕駛或是合作夥伴，它就能變得更強大。你可以將GPT-4的運算生成能力、效率、合成以及擴展能力，與人類的創意、判斷力與指引結合在一起。
這並不能避免錯誤發生。但是我相信，把人類置於GPT-4創造的新世界中心，才是最可靠的做法，也才能創造出最好的結果。在這種情況下，GPT-4並不會取代人類勞動力與人類能動性，而是增強人類的能力與繁榮。當然，這種想法並不是理所當然，而是一種選擇。當人們選擇以這種觀點看待GPT-4（我稱之為頓悟時刻），藉此凸顯這個選擇的核心主軸：擴增人類的能力。
我寫這本書的目的，一方面是為了鼓勵人們接受這個選擇，另一方面也是邀請人們盡情探索這個選擇可能產生的不同結果。我們要如何運用GPT-4，讓世界變得更美好？如何運用GPT-4，達成人類長期追尋的目標：透過科技創新讓生命更有意義、更繁榮？如何更有效地教育自己，確保每個人都能獲得公平對待，有更多機會自己做主、表達自身想法？
另一方面，我們如何妥善地應對GPT-4帶來的挑戰與不確定性？在我們很需要找到快速、大規模解決方案的現在，隨著我們持續開發有助於釋放人類潛能的AI技術，要如何在負責任的治理以及明智的風險之間取得平衡？
我們可以這麼說，過去幾世紀以來，未來從未像現在這般撲朔迷離。面對這種不確定，擔憂是很自然的：擔憂自己的工作與生涯；擔憂潛在改變的速度與規模；擔憂在機器愈來愈有智慧的新時代，身為人類的意義是什麼？
未來的道路不一定平順、可預測。眾所周知的Sydney暴走事件，絕不會是唯一引發人們不滿的AI新聞。未來AI還會出現其他錯誤、偏離軌道，或是經歷重大的路線修正。
但這是必經的過程。人類要進步，就需要冒險、規劃，有膽量、有決心，尤其是懷抱希望。這正是我決定撰寫這本書的原因：我想要加入其他人的行列，提出類似建議，其中最重要的是懷抱希望。懷抱希望與信心去面對未知，是邁向進步的第一步。懷抱希望，才能看到機會，看清楚可能的第一步與新的前進道路。
如果我們做出正確決定、選擇正確道路，我相信，我們能為世界創造的正向改變，將會獲得前所未有的力量。你準備好踏上這段旅程了嗎？
2026專利防護中