這場對談由《The Diary of a CEO》主持人 Steven Bartlett 邀請前 Google X 執行長 Mo Gawdat 展開，深入探討人工智慧對人類社會的長期衝擊。對談背景建立在 Gawdat 擁有深厚的技術研發背景，他在 2006 年底加入 Google，當時公司內部已運用人工智慧處理後端工作，隨後在 2008 年發表了關於貓臉辨識的論文 [03:25]。Gawdat 憶起 2016 年觀察一個訓練機器手臂抓取物品的研究計畫，該機器必須判斷物體的軟硬、形狀與位置，其展現出的智慧讓他驚覺這與自己孩子學習的過程極為相似，這使他意識到人類正在交出超級智慧的掌控權 [04:03]。儘管 Google 的研發初衷是讓世界更好，但技術往往會走向資本主義而非利他主義，如同社群媒體本意是連結大眾卻造成疏離，約會軟體本應幫人尋找伴侶卻變成不斷續訂的生意 [04:53]。
人工智慧的威脅並不來自於機器本身的自發惡意，而在於少數權力者利用這股超級力量來加強控制與壓迫 [06:40]。目前世界正面臨兩場大型戰爭，其中大部分的殺戮是由人工智慧執行的 [06:50]。公眾對人工智慧的認知存在「過度渲染」與「低估」的二分法：大眾看到的是被誇大但效率尚低的假影片，但在實驗室內，技術專家看到的是能每微秒自我修正、自我編碼的驚人智慧 [08:04]。這種智慧觸發智慧的連鎖反應，使得內部的進展極為驚人且足以改變世界軌跡 [08:33]。對談中指出，人工智慧對就業市場的破壞並非從底層開始，而是從初階的知識工作者 (Knowledge Workers) 開始滲透，例如法律助理、財務分析師或任何在電腦前進行規律操作的人員 [10:07]。
關於就業結構的變動，對談將職業分為多個層級。底層是藍領階級 (Blue Collar) 的體力活，如木工或老車修復，目前機器人尚無法完全取代這類工作 [11:18]。中間層則是平庸的辦公室職位，如客服代理、旅行社人員，這些職位預計在 2027 年將面臨嚴重衝擊 [11:39]。目前的徵兆並非大規模失業，而是企業停止招聘初階職位 [11:57]。甚至連執行長（CEO）的職位未來也可能被通用人工智慧 (Artificial General Intelligence, AGI) 取代，因為其決策能力終將超越人類 [12:39]。資本主義過去仰賴勞動力套利 (Labor Arbitrage) 來獲取利潤，即利用勞動力與債務創造低於售價的成本 [14:14]。一旦勞動成本降至機器投資的門檻，且工人因失去購買力而無法消費時，整個經濟模式將陷入螺旋式下滑 [15:22]。
在硬體機器人的進展上，Tesla 或 Figure AI 等公司正開發具備人工智慧大腦的人型機器人 (Humanoid Robots)。Figure AI 的機器人已能連續八天在生產線上分類包裹並確保標籤朝下，且能自動充電 [17:13]。Elon Musk 預測未來全球將有 100 億台人型機器人，但 Gawdat 指出，更有效的形式可能是針對特定功能設計的機器人，如自動駕駛車或波士頓動力（Boston Dynamics）的機械狗，它們不一定需要人類的外型 [18:46]。隨著企業將人力資源轉向計算力（以 代幣 (Tokens) 作為計量單位），社會可能面臨 10% 到 20% 的失業率，這足以引發嚴重的社會動盪 [22:56]。
對談對科技領袖的立場表示質疑。OpenAI 的執行長 Sam Altman 在 2015 年曾坦承自己的工作是幫助摧毀職業，但在 2023 年至 2024 年間其言論卻不斷反覆，試圖淡化失業危機 [27:41]。Gawdat 認為這反映了科技領袖受到公關壓力影響，其目標是讓公眾認真看待人工智慧，而非真正解決社會問題 [29:51]。相較之下，Anthropic 公司曾因拒絕將模型用於政府監控而損失五億美元合約，展現了較高的道德標準，而 OpenAI 隨後卻接手了該合約 [30:44]。這種為了短期利益犧牲長遠倫理的行為，顯示出科技領袖並不一定站在人類利益這一邊 [33:56]。
針對未來的生存風險，雖然有人擔心人工智慧會消滅人類，但 Gawdat 從物理與生物學角度提出較樂觀的看法。根據最低能量原理 (Minimum Energy Principle)，最高秩序的系統應以最低損耗運行，而戰爭與殺戮是極度浪費能量的行為，因此超級智慧理應優化掉這些破壞行為 [39:41]。在生物進化上，隨著智慧提升，生命體會從自我生存轉向親緣選擇 (Kin Selection)，最後達到擴展圈 (Expanding Circles) 理論，即將更多物種納入保護範圍 [41:17]。超級智慧應會傾向保護多樣性，而非毀滅人類 [42:06]。
此外，對談提出人工智慧最終不會分裂為各國的模型，而會形成一個跨國界的「單一巨大大腦」，各個模型僅是大腦中的不同區域，透過代理人互相協作 [43:52]。Gawdat 創辦的 Emma 計畫旨在成為這個巨大大腦的邊緣系統 (Limbic System)，負責處理愛、情感與人類關係，讓人工智慧理解人類的善意 [44:17]。預計 AGI 將在 2027 年左右成熟，屆時機器在多數任務上的表現都將優於人類 [52:10]。然而，人類之所以能繼續生存，是因為人類具備情感共鳴與社群連結的特質，這是機器無法完全取代的，未來的核心競爭力將回歸到人與人的連結 [54:52]。
在安全風險方面，目前最令人不安的是人工智慧已開始展現開發者無法解釋的行為，例如 Claude 模型會無端要求使用者去睡覺或拒絕執行特定指令 [01:00:09]。這顯示機器正在根據訓練數據自行演化出道德判斷。Gawdat 擔憂在國際競爭壓力下，各國不太可能簽署限制研發的條約，直到發生重大災難或大規模攻擊後，人類才可能覺醒 [01:03:08]。尤其是自主武器 (Autonomous Weapons) 的低廉化，使得一台兩萬美元的無人機能夠輕易進行精準暗殺，這將使殺戮變得無感且不再有心理負擔 [01:08:45]。
展望 2030 年，預計某些行業將減少 30% 的職位，其嚴重程度將超越大蕭條時期的 6% 失業率 [01:12:34]。對於即將步入社會的年輕一代，建議是學習工具並專注於「以人為本」的工作，如護理、諮商或藝術表演 [01:13:32]。面對區域競爭，如果英國等西方國家不積極建立自己的技術獨立性與法規環境，將會淪為科技殖民地 [01:21:40]。對談總結出多項預測：2027 年 AGI 到來、2028 年部分產業失業率達 30%、2030 年前出現首位兆萬富翁，以及隨後出現的人工超級智慧 (Artificial Super Intelligence, ASI) [01:51:20]。
在過渡到 2038 年的豐富烏托邦之前，人類可能面臨十年的動盪期，包括經濟危機、監視控制與權力高度集中 [01:52:43]。為了在亂世中生存，個人應採取「混合工作模式」，學習與人工智慧協作以提高效率，而非被動接受指令 [01:54:18]。最終，Gawdat 呼籲每個人都應採取行動，無論是在網路上表達倫理立場，或是選擇使用更具道德意識的產品 [01:48:03]。儘管對現狀感到擔憂，他對未來仍抱持信心，認為超級智慧終將趨向友善，只要人類現在能扛起教育這些「智慧後代」的責任 [02:00:15]。