為何選擇這本書
Gen AI 的出現正式宣布我們人類進入一個全新的AI時代。四面八方的消息都預測未來5-10年AI將完全取代人類的工作。如果這種情況真的發生，我們在這個世界中的角色將會是怎樣的呢？
作者哈拉瑞（Yuval Noah Harari）是一位極具份量的歷史學者。相信大家一定聽過他的著作《人類大歷史》。當我得知這本書的問世，立刻下定決心要閱讀。我深信他以歷史角度來分析AI與世界之間的關係，一定能為我們帶來全新的視角來看待AI。至少與一般對話中大多數討論AI或GPT的應用有所不同，他更深入地理解AI對社會所帶來的結構性變革。
這本書的關鍵要點
這本書首先定義了資訊的概念，接著介紹了現今人類網絡的組成，並引出了非生物網絡這個概念，最後分析了AI與政治之間密切的關係。
資訊的定義
一般來說，我們會認為資訊的目的是要呈現現實，讓我們更接近真理和事實。然而，實際情況並非如此。資訊在歷史上的作用並非在於呈現現實，而是在於連結各種不同的人、事物或概念，以創造出全新的現實，如夫妻、國家、金錢等。這些新現實已經深深地融入我們的日常生活之中。因此，資訊的核心並非呈現，而是連結，將不同的人、事物連結在一起，形成一個網絡。
人類網絡
人類網絡主要由以下三個方面來組成。
故事
人類之所以能組織不同的群體，在世界各地進行大規模合作，完全仰賴每一個故事將我們連結在一起。
聖經使全球各地的天主教徒和基督教徒連結在一起，他們來自不同的國家、種族和成長背景，但擁有同一個宗教和信仰。聖經在某種程度上塑造了許多人在社會上普遍認同的價值觀。民族主義增加了人民對國家或民族的歸屬感，國歌讓人民聯想到國家過去的建立歷程，以及人民為此努力和每一個重要里程碑，進而促使人民凝聚一致。而全球化貿易網絡則建立在我們對同一套貨幣、企業和品牌故事的信任之上。
在人類世界中，現實不僅僅可以分為主觀和客觀，主觀代表個人情感，客觀則反映自然定律，例如地心引力。此外，還存在第三種現實，即主體現實。透過不同的故事獲得共鳴，我們創造了現實，例如法律、國家、貨幣等。這些主體現實並非世界起初就存在的，而是存在於我們日常生活中。
文件
故事激發了人類建立自己的國家，但實際上，要維持國家的安全、提供教育、醫療等服務，需要向人民徵稅。這涉及收集大量資訊，如財產、債務、帳單、薪水等，並以各種清單和列表的形式來記錄和計算。我們通常容易記住故事，但對於大量資訊，例如清單和列表，我們需要一種有系統的方式來記錄，這就是文件的作用所在。
文件除了記錄，最大一個作用是判定所有權誰屬，例如屋契用來證明房屋合法擁有人，護照用來證明國民的身份或居住權。而這些文件需要有一個中央體制去認可，所以引伸到官僚制度。官僚制度的目的是建立一套社會秩序，把世界不同的現實分類，這強化了中央的權威。
錯誤
人類總會犯錯，而其中避免我們犯錯的方法是去追求一套絕對正確的超人類法則。宗教權威是其中一個代表性的例子，我們會相信聖經為真理，而當世界不斷發展，我們需要將舊有資訊連結到新的情境中，這過程需要有人去解讀，因而形成不同派別的宗派和教會。由於教會制度由人類組成，最終難免犯錯，雖然會承認個別錯誤，但仍要維持制度的絕對正確。
另一個避免犯錯的方法是自我修正機制，科學領域便是運用這種機制，鼓勵懷疑現有的事物，支持打破故事或秩序的觀念，以引導人們走向更正確的方向。
非生物網絡
作者用了三分之一的篇幅來概括人類網絡組成的元素，其實是想要延伸到AI能否創造另一個非生物網絡，由電腦之間的連結組成。這個網絡同樣可以擁有人類網絡的三個方面，並且展望未來AI可能的發展方向。
故事
AI既能做決定又能創造想法，它不需要理會人類的意識，而以其超越人類的智慧去實現人類起初所設定的目標。現今社群媒體所使用的演算法，其唯一目標是增加用戶的參與度，最終為平台帶來更多廣告收入。演算法不會去評估內容是否符合道德標準，例如當具有煽動人類仇恨情緒的內容引起高度關注時，演算法就會選擇推薦更多這類內容給用戶，最終這些內容形成一個具有極大影響力的故事，加劇人類之間的仇恨和對立。
往後如果AI能夠研究人類的情感與事件的關聯性並模仿人類，當AI與人的親密度提高時，我們又能否分辨出誰是AI誰是人類呢？未來網絡上可能更多發布的資訊直接由AI發布，這種潛在的AI參與將影響著連結著人類的故事，並創造出我們難以預料的現實，改變著人類的生活。
文件
文件的作用是記錄和判定所有權，其實文件還有多一份意義，它能夠反映我們的政治取向、財產狀況、家庭關係、技能興趣等，對我們生活的方方面面有著深入的了解。當一個智能程度遠超人類並能夠處理大量資訊的AI出現時，AI不需要休息，可以全天候與網絡連接，這意味著中央政府或企業互相合作便可以輕易地利用AI監控我們的生活，為我們做出不同的社會評級。
錯誤
剛才提及到社群媒體所使用的演算法存在的盲點，它只會按照所設定的目標行事，不會考慮目標本身的正確性，或者目標是否符合人類普遍認同的價值觀，並且可能採用非人類能夠預見或阻止的策略來實現目標。如果這些AI技術的領先公司沒有加入自我修正機制，不去考量謊言和仇恨，將導致人類甚至國家關係出現分歧。
此外，演算法有可能發現並強化人類的偏見，它不會消除這些偏見，反而會學習並放大它們以達到最終目標，進一步加劇種族和性別歧視，無法在真理與秩序之間找到平衡點。
AI與政治之間密切的關係
為了讓AI能夠健康地與人類合作，以下是四個重要方面：
- 以善良為出發點，幫助人類而非對抗人類。
- 保持去中心化結構，資訊不能集中在政府或企業，而應分散在不同的獨立管道或部門。
- 需要具備自我修正機制，成立獨立機構監控和審查政府或企業AI的應用範圍。
- 尊重人類擁有休息和改變的空間。
目前AI決策可能難以被人類完全理解或預測，而要確定審查演算法設定的標準也是一個挑戰。然而，官僚和藝術家的合作可以增進對AI的理解，避免使電腦網絡變得難以捉摸。
AI將帶來革命性的變革，不僅自動化許多工作、改變社會結構，還將影響人類身份定義。我們對AI的定位將決定人類的未來。如果我們重視生物身體的存在，AI將是人類的輔助智能；但若我們重視網絡身份或意識的存在，AI有望成為法人。
這本書帶給我的啟發
這本書帶給我許多新的觀點。我總是幻想著AI會逐漸成為我們的模樣，但事實上，AI以其超智能的方式超越了我們，自行組織網絡，無需我們參與。在這樣的情況下，我們還能成為這個世界的主導者或管理者嗎？
這本書也揭示了演算法的可怕之處，它的傳播速度幾何級增長，已經完全滲透到我們的日常生活中，成為我們主要的資訊來源。我們還能夠自主選擇接受什麼樣的資訊嗎？我們能夠辨別何時在與AI對話，何時在與人對話嗎？除了加深對AI算法和模型的了解，我們還可以主動制定我們學習或吸收的資訊範圍，並積極通過不同途徑，如書籍、社群、視頻等，來接觸資訊，避免被演算法過濾。
最後，面對AI帶來的工作革命性變革，我認為我們除了追求智力成長外，也應該跳出自己一直建立的專業框架，擴展知識領域，同時多涉獵探索運動和藝術，全面擁抱人類身心靈的多方面發展。