Google DeepMind 於英國計畫建立首個自動化研究實驗室與 AGI 發展展望

☘️ Article

• 
• quick take
• AGI 的核心指標在於 AI building AI，在沒有人類介入的情況下直接自己迭代。coding 和數學將是最快的領域，由於其結果可以驗證，自然科學和機器人則因為涉及現實物理世界，會慢一些
• Demis 認為真正的 AGI 必須解決物理 AI 和機器人學的問題，除了讓 AI 理解物理，使其不會遺忘舊知識也很重要 (存儲)
• 結論就是如果看到 AI 自己開始迭代那就距離新世界不遠了
• 這跟前幾天 xai 員工訪談提到的一個重點類似，他們公司裡面現在有一些員工是 AI，團隊在需要找這些 “員工” 對資料的時候才發現此人不存在
• 附圖為 CNBC 前陣子的報導提到 deepmind 在英國要弄全自動的 lab
• -- 以下 notebooklm 伴讀 --

1. AGI 時間表與發展速度 (AGI Timelines)
   • Dario Amodei (Anthropic) 的預測：非常積極。他預測在 2026 或 2027 年，模型將能在多個領域達到諾貝爾獎得主的水準。
   • Demis Hassabis (Google) 的預測：相對謹慎但也不遠。他維持之前的預測，認為本世紀末 (2030 年前) 有 50% 的機率出現具備人類所有認知能力的系統。
   • 「閉環」加速效應 (Closing the Loop)：兩人都同意關鍵在於 AI 能否自我編寫程式和進行研究。Dario 認為這將形成一個加速迴圈，模型寫程式、創造下一代模型，速度可能超乎想像。
   • 瓶頸：儘管軟體進步快，但硬體 (晶片製造、訓練時間以及需要物理實驗驗證的領域 (如自然科學) 可能無法像寫程式那樣快速自動化。
2. 經濟與就業市場衝擊 (Economic & Labor Impact)
   • 短期衝擊 (1-5 年)：Dario 認為未來 1 到 5 年內，半數的初階白領工作可能會消失。Demis 也認為初階工作和實習機會將首先受到影響，建議學生必須精通 AI 工具。
   • 適應速度的隱憂：雖然勞動市場具有適應性 (如從農業轉向工業)，但 Dario 擔心 AI 進步呈指數級成長，可能會快到讓人類社會來不及適應。
   • 後 AGI 時代的意義：Demis 指出，除了經濟分配問題，更大的挑戰在於當工作不再是必須時，人類如何尋找「意義」與「目的」。
3. 風險與地緣政治 (Risks & Geopolitics)
   • 技術青春期 (Technological Adolescence)：Dario 引用電影《接觸未來》，將現在比喻為人類的「技術青春期」，關鍵是如何在不自我毀滅的情況下度過這段時期。
   • 主要風險：生物恐怖主義、獨裁政權濫用、失去對自主系統的控制。
   • 晶片管制：Dario 強烈主張限制晶片出口 (特別是對中國)，認為這是爭取時間最有效的手段。他將此比喻為「不該為了波音公司的利潤而賣核武給北韓」。
   • 安全標準：Demis 強調需要國際合作制定最低安全標準，且希望能稍微放慢發展速度以確保安全。
4. 企業競爭態勢 (Corporate Landscape)
   • Google DeepMind 的回歸：Google 經歷了 "Code Red" 時刻，透過整合資源與恢復新創心態，Demis 認為他們已重回領先地位。
   • Anthropic 的增長：營收呈現指數級增長 (2023 年 1 億 -> 2024 年 10 億 -> 2025 年預估 100 億美元)。
   • 共同特質：兩家公司都由研究人員領導，以解決困難科學問題為北極星，這被認為是成功的關鍵。

• https://www.youtube.com/watch?v=02YLwsCKUww

✍️ Abstract

為什麼重要

• Google DeepMind 與 Anthropic 領航者對 AGI 的實現路徑達成共識，關鍵在於 AI 的自我迭代能力。

核心重點

• 自動化研究：英國將建立首座結合 AI 與機器人的自動化實驗室，加速科學發現並支持國家 AI 戰略。
• 自我進化：軟體與數學領域將率先實現 AI 自我編寫程式的閉環，物理世界與硬體製造則是主要瓶頸。
• 時程展望：產業預測 AGI 出現時間落在 2026 至 2030 年間，屆時模型能力將超越諾貝爾獎得主。
• 社會挑戰：未來五年半數初階白領職位面臨威脅，人類需在自動化時代重新定義生存意義。
• 安全管理：主張嚴格執行晶片出口管制，透過爭取時間來建立國際安全標準，預防技術青春期的自我毀滅風險。

專有名詞

• AGI (Artificial General Intelligence)：通用人工智慧，指具備人類所有認知能力，能夠在不特定領域執行任何人類智慧任務的人工智慧系統。
• Google DeepMind：由 Google 旗下的 DeepMind 與 Google Brain 合併而成的頂尖人工智慧研究機構，致力於開發通用人工智慧並應用於科學突破。
• Anthropic：一家專注於人工智慧安全的研究型公司，由前 OpenAI 成員創立，其開發的 Claude 系列模型在市場上具有高度競爭力。
• 閉環 (Closing the Loop)：在 AI 領域指系統能完成從開發、測試到自我優化的完整循環，無需人類干預即可持續進步。
• Code Red (紅色警報)：指 Google 在面對 ChatGPT 崛起威脅其搜尋業務核心時，內部發出的最高等級緊急應對狀態。
• 自動化研究實驗室 (Automated Research Lab)：利用 AI 驅動機器人進行高通量實驗的設施，能大幅提升科學研究的速度與精準度。
• 技術青春期 (Technological Adolescence)：將人類目前處於強大技術爆發但缺乏完善管控能力的階段，比喻為容易衝動且充滿風險的青春期。