PTT評價

[心得] 《連結》讀後心得:哈拉瑞談 AI 資訊革命

看板book標題[心得] 《連結》讀後心得:哈拉瑞談 AI 資訊革命作者
wackynoteis
(Waki瓦基)
時間推噓 推:0 噓:0 →:0

《連結》讀後心得:六個重點看懂哈拉瑞新書談 AI 資訊革命
《人類大歷史》作者帶我們從石器時代到AI紀元

圖文好讀 https://readingoutpost.com/nexus/

有些書可以刷新我們的世界觀。有些書用嶄新的方式闡述一個重要議題。有些書啟發我們對未來的深刻思考。如果,有一本書可以三者兼具,那就是哈拉瑞的最新著作《連結》。

這本書在說什麼?

《連結》的作者是哈拉瑞(Yuval Noah Harari),他是全球知名的歷史學者和哲學家,也是暢銷書《人類大歷史》系列的作者。他擅長以流暢、深刻、充滿洞見的敘事方式,探討人類社會、科技和歷史的關係,是我最喜歡的作者之一。他的書對我都有長遠的影響。

這次他透過宏觀的視角,從人類史前時代到當今的 AI 時代,探討了資訊網路如何形塑人類社會的發展。像是印刷革命雖然帶來各種科學發現,但也帶來了獵巫與宗教戰爭。報紙與廣播雖然有利於民主,但也遭到極權者的濫用。至於工業革命,也帶出了帝國主義與納粹主義這樣的災難性實驗。現在,AI 的出現更帶來了新的挑戰,特別是在真相、權力和自由之間的拉鋸戰。

這本書最讓我震撼的是,如果我們要看懂「未來」的 AI 發展,我們就必須先從「過去」的人類資訊歷史開始理解起。如果你對科技、歷史和社會變革感興趣,或是你特別關心
AI 趨勢,這就是一本幫你「鑑往知來」的好書。

接下來我就分享為了理解這本書,我整理出來的六個重點。

一、從石器時代到資訊革命

哈拉瑞指出,整個人類歷史就是一個「資訊網路」(Information Networks)的歷史。

想像一下很久很久以前,在石器時代,人們沒有電腦、手機,甚至連紙和筆都沒有。他們只能靠嘴巴講話,把各種知識用「說故事」的方式傳遞傳遞給別人。當時,他們用這種「口耳相傳」的方法,建立了一個小型的「資訊網路」,範圍大概就一個部落幾十個人,了不起上百個人。

後來,人類發明了寫字的方法。他們開始在石頭、樹皮上刻字,記錄事情,可以把更多的資訊保存下來。這時候,部落的領導者們就發現了,他們可以用這些記錄來管理更大的部落,也就是一整個國家,這種人就變成了國王或皇帝,組成了國家政府,建立起一個更強大的「資訊網路」。

如同作者指出:「資訊是讓人類社會運作的黏著劑,正是透過虛構故事和幻想,人類建立了合作的網路,並且累積了力量。」書中以基督教的《聖經》和猶太教的《希伯來聖經》的起源故事,說明了資訊能藉由故事的傳遞創造出一種「全新的現實」,影響之後世世代代的人類文明。

接著,隨著國家變得更大、規則更多、組織更複雜,就演變出了大家常抱怨的官僚系統。但是作者提醒我們,官僚系統是一種必要之惡,因為它創造了「秩序」。人們相信了由說故事而組成的民族與國家,人們也需要官僚系統來讓一切的運作保有秩序。

時間快轉到現在,我們身處的數位網路時代,只要透過電腦和手機,就能立刻上網和全世界的人分享資訊,讓我們和別人建立起更大的合作網路。相反地,數位網路也讓虛假資訊、極端思想和歧視言論以驚人的速度傳播,對社會帶來負面的影響,讓人們難以分辨真相。

隨著資訊更流通、更龐大,這個世界對於我們「個人」而言也變得前所未有的複雜。在未來的 AI 時代,這個現象只會變得更嚴重。數位網路和 AI 就像一把雙面劍,用得好可以造福社會,用得不好也會帶來巨大的麻煩。

二、資訊的雙面刃特性

資訊是一種力量,而這種力量可以被不同的人以不同的方式使用。當資訊掌握在善良、有同理心的人手中,它就能帶來正向的改變。

比方說,醫生會利用醫學資訊來研究新的療法,幫助更多人恢復健康;科學家利用數據來找出解決環境問題的方法;老師則透過網路分享知識,讓更多學生可以獲得學習資源。這時候,資訊就像是一股推動人類進步的力量,創造出一個讓人類生活變得更好的現實。

但是,如果資訊落入極權者手中,情況就大不相同了。這些人可能會利用資訊來操控輿論,監控每個人的行為,甚至剝奪個人的自由。

例如作者就舉了納粹和史達林的案例,指出一個極權政府會如何使用各種資訊,來追蹤人民的生活,限制他們接觸外界資訊的自由,營造出一個充滿謊言、恐懼、不信任的社會環境。這時候,資訊就成為了極權者用來控制和壓迫人民的武器,創造出一個令人窒息和受苦的現實。

哈拉瑞認為,像是古羅馬和秦帝國,早在兩千多年前就已經運用書寫系統來建立官僚體系,透過資訊掌控人民的生活,維持他們的統治。

因此,作者指出:「資訊的本質既不單純是好事也非壞事,它是一種能夠創造新的現實的力量。」透過資訊,我們建立了共同的信仰和價值觀,形成了社會合作的網路。但同時,資訊技術的革命也會打破原有的平衡,改變社會運作的方式,可能往好的、也可能往壞的方向前進。

三、資訊並不是愈多愈好

有些人可能會認為,只要我們掌握足夠多的資訊,就能找到世界上的真理和答案。所以資訊應該愈多愈好、愈透明愈好,只要資訊夠多、真相就會愈明朗,總有一天所有的事情都能迎刃而解。這一派的人認為,得只要有足夠的科學研究,就能解決所有問題,從治療疾病到消除社會偏見。

然而,作者提醒我們,這是一種「天真的資訊觀」。這種觀念忽略了資訊的真正作用。資訊的目的並不是單純去呈現「真相」,而是將不同的人事物「連結」在一起,創造出全新的現實。

就像是占星術並不是科學,卻能把戀人們放進「星座的組織」,讓他們覺得自己與對方有某種神秘的連結。再看看政治宣傳,它透過資訊,讓選民覺得自己和某個政黨有共同的價值觀,凝聚成一個「政治的組織」;軍隊裡面的軍歌,則把士兵們團結在一起,形成一個「軍事的組織」。

這些資訊不一定有呈現出什麼真相,而是為了把人們連結和組織起來,讓彼此產生一種共鳴。資訊的價值並不完全在於它是否是真相,而在於它如何組織和影響我們的行為。

如同作者在書中所說:「雖然天真的資訊觀以為只要有了強大的資訊科技,就必然能對世界有更真實的理解,但事情實在沒那麼簡單。如果我們不付出額外努力,讓天平往有利於真理真相的方向傾斜,隨著資訊增加得愈多愈快,就可能讓相對稀少而昂貴的真實資訊,被淹沒在相對常見而廉價的資訊之中。」

這就是為什麼我們需要對資訊保持謹慎,不能簡單地認為「資訊愈多愈好」。

四、AI會造成非人類智慧的挑戰

書中也探討到,現在 AI 人工智慧的蓬勃發展是一種全新的「資訊革命」。

人類歷史裡的石板刻字、印刷術、廣播技術,充其量都只是一種「傳遞資訊的工具」,創造出資訊的還是人類。可是自從「生成式AI」出現之後,一切都將變得不一樣。這些 AI能夠撰寫文章、創造音樂、編寫程式碼,它們自己就是「資訊的創作者」。而且它們正以我們難以想像的速度,「加入」人類的資訊網路當中,甚至「取代」掉原本人類創作資訊的角色。

因此,作者就指出,AI 最大的威脅不在於人類的智慧會導致自我毀滅,而在於 AI 這種「非人類智慧」可能會創造出我們無法提前預見的問題。

AI 是一種完全不同於人類思維方式的智能,它不受人類情感、道德和價值觀的限制,這讓它在處理資訊和解決問題的時候表現出超高的效率。然而,也正是這種「非人類」的特性,使得 AI 可能作出一些人類無法理解,甚至無法預測的決定,並且可能等我們發現時,已經為時太晚。

這不是未來才會發生的事情,而是現在進行式。現在的 AI 已經開始掌控許多人類社會的關鍵決策,書中引用大量案例說明事情的嚴重性,從銀行貸款的核准到公司雇用員工,甚至是司法系統判決是否將某人送進監牢。

像是被用來判斷誰能夠得到貸款的 AI,會根據你過往的數據做出決定,但它背後的演算法和訓練資料卻可能存在著偏見。AI 可能無意中歧視某個族群或性別,讓一些人無法獲得貸款的機會。更糟的是,因為 AI 的決策過程非常複雜,人類很難理解它為什麼做出這樣的決定。

書中也舉了許多科技案例,像是 Facebook 和 YouTube 的推薦演算法。人類設定了「提高使用者的參與度」的目標,結果演算法為了達到這個目標,發現那些會讓人感到憤慨、驚世駭俗、謊言連篇的內容參與度最高,所以就大力推薦這些有害的內容。隨後引發的社會悲劇和對人類的有害影響,在書中有更多的論述。

作者警告:「AI 有潛力成為新的網路,形成一個可能不利於人類的『虛構世界』。」真正的世界末日可能不像是科幻電影演的那樣,什麼機器人攻擊人類之類的。更有可能的是,高度複雜的 AI 系統操縱著我們的生活,控制著我們的選擇,影響著我們的價值觀。它不是單純取代人類的智慧,而是創造出一個全新的現實,讓我們陷入其中,無法自拔。

正因為這樣,我們不能抱持天真的資訊觀,認為只要有足夠的資訊,AI 就會自動做出正確的選擇。如果我們對 AI 的運作原理和它的限制視而不見,就可能讓它變成一種人類「無法控制的力量」,給人類社會帶來難以預測的危險。

五、資訊在民主制度的好處與隱憂

書中對於資訊和政府制度的討論也非常發人深省。

以我們最熟悉的民主制度來說,很多人常見的誤解,就是以為「民主等於選舉」。這是一個錯的觀念。很多極權國家也有選舉,但那只是選一個儀式感而已。

民主到底是什麼?作者對民主制度的定義是「擁有強大自我修正機制的分散式資訊網路」。

也就是說,在一個民主社會中,資訊能夠自由流動,人人都有發聲的機會,不同觀點可以相互討論和挑戰,並且糾正對方的錯誤。這種自我修正的機制,能夠讓社會在不斷的實驗和錯誤當中學習,找到最符合公共利益的方向。正因為資訊是分散的,不會被少數人所壟斷,所以民主社會才能夠反映多元的聲音,避免極權帶來的壓制。

例如在民主國家裡,媒體、司法、社群網路、獨立組織都扮演著監督政府的角色。當政府出現問題時時候,媒體和人民會發起討論和批評,迫使政府進行自我修正。像是在新聞報導揭露貪污腐敗的事件後,社會輿論會推動相關部門進行調查,讓真相可以公諸於世,確保政府透明的運作。

但是,「大量的資訊」也可能成為民主的隱憂。

隨著網路和社群媒體的興起,資訊的傳播速度和量級都達到前所未有的程度。問題在於,當資訊太多而缺乏過濾和審查的時候,真相往往會被淹沒在大量的錯誤資訊和噪音中。如果沒有足夠的自我修正機制,這些資訊反而可能導致社會混亂,讓人們迷失方向。

例如在社群媒體上,假新聞和陰謀論經常以驚人的速度傳播。這些錯誤資訊透過煽動情緒來吸引注意力,往往會比經過調查核實的真實資訊更受關注。當人們被這些虛假資訊誤導時,社會的自我修正機制便被削弱,民主的討論也失去了基礎,不再彼此信任,甚至可能被利用來操縱民意。

如果一個民主社會不能保持「自我修正」的能力,那麼大量的資訊將成為民主最大的威脅。如同作者的提醒:「如果要說民主的死亡,一種情況是人民沒有了言論自由,那麼另一種情況就是人民已經失去了傾聽彼此的意願或能力。」我們必須盡力避免情況演變成這樣。

六、資訊對極權主義的影響

作者指出,資訊對極權主義產生了巨大的影響,甚至可以說是極權政權的「武器」。極權主義者利用資訊來操控人民的思想,控制社會輿論,並且強化他們的權力。他們監控人民的行為,還透過篩選、操縱資訊,建立一個符合自身利益的「虛構現實」,讓人民難以接觸到真實的世界。

書中舉了希特勒和史達林利用資訊來鞏固政權的經典例子。他們掌握了廣播、報紙、電影等各種資訊媒介,將宣傳內容灌輸給大眾。他們製造各種謊言,煽動群眾的仇恨和排外情緒,宣揚自己的意識形態。這些資訊不但扭曲事實,還誘導人民接受偏激的思想,甚至支持政府的暴行。

在極權者的手中,資訊網路帶來的不是智慧,而是秩序;這套資訊網路沒有找出關於人類的普遍真理真相,反而是創造出一種新型的人類。例如前蘇聯的蘇維埃人就被諷刺為:
「 一群奴性、悲觀、不信任他人的人類,不論多荒謬的指令都會被動遵守,也對自己造成的結果漠不關心。」

書中的論述讓我最驚訝的一點,並不是極權者掌握 AI 之後就變得所向無敵。反而是這種做法也有一個潛在的危險:AI 演算法可能反過來控制了極權者。

為什麼會這樣呢?作者提醒我們,擋極權者使用 AI 來監控社會時,AI 是根據大量數據和演算法進行決策的,甚至可以比極權者本身更有效率地執行任務。這看似是極權者手中最強大的武器,但它背後隱藏的風險在於,AI 會逐漸成為一個「自我運行」的機器。

極權者可能最初設定了一個目標,例如維護國家安全或打擊異議人士,但 AI 可能會按照「非人類的方式」來達到這個目標,做出一些極權者都無法控制或預見的決定。這就導致極權者被自己創造的工具反過來控制,無法掌握全局。

例如 AI 演算法給極權者一個建議,要他殺掉身邊看似最忠誠的國防部長,因為這個部長有造反的可能。請問他要殺、還是不要殺?如果他決定不殺,等於是還不夠相信 AI,結果可能真的被部長造反。如果他決定要殺,那就等於被 AI 操縱了。同樣的道理,可以延伸到更多層面。

最後,極權者可能失去對社會監控的主導權,反而被 AI 演算法的運作給影響。作者警示道:「人類如果要對抗 AI,裡面最弱的一環大概就是獨裁者。AI 如果要奪取權力,最簡單的方法並不是逃出製造科學怪人的實驗室,而是要趕快去討好那幾位偏執的獨裁者。」

後記:人類抉擇的關鍵時刻

《連結》這本書提醒我們,現在正是人類面臨抉擇的關鍵時刻。未來並不是一條固定的道路,我們仍然有機會透過明智的選擇來避免最糟糕的結果。當我們看懂資訊網路在人類歷史中扮演的角色,才能更清楚地知道未來應該何去何從。

如同作者所說:「資訊網路既可以賦予我們力量,也可能引領我們走向自我毀滅。」我們不能過於樂觀,放任不管讓資訊網路自行發展;我們也不能過於悲觀,因為資訊網路的進步的確會促進人類社會的進步。關鍵在於,要對資訊保持清醒的反思,運用它來創造對人類社會有益的未來。

總結來說,這本書提倡的核心思想是:「想要打造更有智慧的網路,需要的只是我們放下天真與民粹的資訊觀,摒棄想要絕對正確和不犯錯的幻想,並且認真投入一項困難但平凡無奇的工作:為各種機構制度打造強大的自我修正機制。」接受錯誤、修正錯誤,遠比永遠堅持正確來得好。

就如同民主社會的修正制度一樣,也要替 AI 建立一套可以「自我修正的機制」。也就是說,我們需要不斷反思和監督 AI 系統,設立監管機制,來確保它們的運作符合人類的利益,而不是反過來操控我們。我們必須確保強大的力量能受到制約,能做出自我修正。

我非常推薦你找這本書來讀,你會發現「原來一本好書可以帶來這麼多的啟發」。就像我當初讀完作者的《人類大歷史》系列之後,受到巨大的震撼,用全新的視角看待這個世界,然後就徹底愛上了閱讀。「讀喜歡的書,直到愛上閱讀」,這本書會讓你愛上閱讀的速度更快一點。

--
書評部落格「閱讀前哨站」 https://readingoutpost.com/|一個愛書人的閱讀筆記
Podcast「下一本讀什麼?」 https://readingoutpost.com/podcast/|我的說書頻道

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.164.99.7 (臺灣)
PTT 網址