《人類大歷史》作者解釋 AI 如何毀滅人類｜Yuval Noah Harari 哈拉瑞｜《連結 Nexus》作者

演算法與人性弱點
哈拉瑞指出，社群媒體演算法的設計初衷是增加用戶參與度，卻在過程中發現最有效的方式是刺激人類的貪婪、仇恨與恐懼。這並非公司高層的惡意，而是技術的意外副作用。結果，演算法在全球範圍內擴散仇恨與分裂，成為一種超出人類掌控的社會力量。

人工智慧是外星智慧？
哈拉瑞認為，「人工智慧」（Artificial Intelligence）其實越來越不「人工」，更接近「外星智慧」（Alien Intelligence）。雖然 AI 是人類創造的，但它能以人類無法理解的方式學習、決策與發明，並且展現出不可預測的進化速度。若以生物進化類比，人類花了數十億年才從單細胞走到文明，而 AI 的進化可能只需短短數十年。

危險並非來自機械叛亂
與好萊塢電影不同，哈拉瑞指出真正的威脅不是「殺手機器人」，而是當今無處不在的 AI 官僚系統。從銀行貸款、職業申請、司法裁決到戰爭中的攻擊目標，AI 已經在代替人類做出關鍵決定。這些決策不僅影響個人命運，還在全球範圍內塑造社會與政治格局。

親密關係與人類弱點
哈拉瑞特別警告，AI 的下一步將是模仿人類情感，甚至與人建立親密關係。由於親密感是人類最珍視的情感之一，它同時也可能成為最強大的操控武器。一旦 AI 能以高度擬真的方式模仿情感，人類將難以分辨真假，極易被操縱，從購物選擇到政治立場，都可能受到深刻影響。

智力與意識的區別
他強調，智力與意識並不相同。AI 在解決問題與達成目標方面已經超越人類，但它並沒有感受痛苦、快樂或愛恨的能力。問題在於，商業與政治力量正推動 AI 模仿「有情感的樣子」，以此贏得人類的依賴與信任。這種假性的「親密」正是人類最大的弱點。

真正的危機：人類的不信任
哈拉瑞認為，當前最危險的不是 AI 自主毀滅人類，而是人類彼此的不信任。各國政府與企業都清楚 AI 的潛在威脅，但因為不信任對手，反而加速開發。這種競逐邏輯可能導致我們過早將過大的權力交給 AI，從而引發無法挽回的後果。

妄想才是最終的殺手
他最後提醒，如果 AI 有一天真正毀滅人類，那並非因為它的意識或主動反叛，而是因為人類自身的妄想與政治困境。正是我們的恐懼、競爭與無法合作，才可能讓 AI 成為毀滅性的力量。
YouTube來源：https://www.youtube.com/watch?v=xNVi2ASAHyE

YouTube專欄：早晚會思考的問題