通用 AI (AIXI)

資料來源#

• From AGI to ASI

摘要#

通用 AI 以 AIXI 代理的形式化，是目前對機器智慧理解最完善的理論極限（Hutter 2005；Legg 2008；Hutter 等人 2024）。AIXI 是一種已被證明能夠在所有可計算環境的類別上取平均後達到最優的代理——這些環境由任意可計算動力學與可計算獎勵函數組合而成——前提是先驗機率遵循 Solomonoff's universal prior（較簡單、Kolmogorov complexity 較低的環境，其機率呈指數級較高）。它是智慧的連續體終點：包括 ASI 在內的真實系統，只能隨著計算量增加，從下方逼近 AIXI。DeepMind 的「From AGI to ASI」報告 使用這套框架對 ASI 設定上界，補足從今日系統向上逐步外推的路線。

這是超級智慧理論叢集的樞紐：它提供形式化錨點，AGI-to-ASI Pathways、Effective Compute Scaling、The Abstraction Barrier 以及基本極限討論都引用了這個錨點。

AIXI 解決的三個問題#

AIXI 會與未知環境進行序列互動；若要表現良好，它必須解決三個耦合問題——每個問題都從第一原理解決，而非任意選擇：

1. 在不確定性下行動。 真實的動力學與獎勵函數未知，因此 AIXI 將所有可計算的動力學與獎勵函數視為假設，並對它們進行貝葉斯更新，以得到後驗分布。先驗是 Solomonoff's universal prior（演算法資訊理論）：Kolmogorov complexity 較低的環境會獲得呈指數級更多的權重。
2. 互動式決策（信用分配）。 當回饋是短期的，仍要最大化長期累積獎勵。這透過通用強化學習解決（任意可計算的動力學／獎勵）。它需要選擇折扣／視界方案——有限視界以外的任務沒有唯一最佳的折扣方式。
3. 探索—利用。 這個問題被隱式地解決：預期能降低環境不確定性的行動，在目前後驗分布下會取得高獎勵，因此有用的探索會自動獲得激勵；而且一旦環境已充分了解，探索便會停止（不同於新穎性／熵獎勵）。

AIXI 繼承了 Solomonoff Induction 的最優性：在所有可計算環境上取平均後，它是資料效率最高的預測器（累積預測錯誤最低／犯錯最少）。

Legg–Hutter 分數#

AIXI 的最優性建立了智慧的形式化、定量定義：Legg–Hutter score（Legg & Hutter 2007a）＝代理在所有可計算環境上的預期累積獎勵平均值，每個環境都按照反比於（Kolmogorov）複雜度的權重加權。許多非正式的智慧概念，都可視為這個類別的子集。依其定義，AIXI 會最大化該分數——它就是上界。關鍵在於：AIXI 與該分數都不可計算。 由於該分數是一個平滑的連續體，報告不必設定明確的 AGI／ASI 閾值；重要的是 AGI 與 ASI 之間存在很大的 Legg–Hutter 差距（參見 Artificial Superintelligence (ASI)）。

註（學習演算法，而非訓練模型）。 AIXI 是一種學習演算法；公平的比較對象應是持續學習評估下的架構＋訓練演算法（例如 transformer＋SGD），而非凍結的訓練模型。專門化演算法可以在狹窄的基準測試上擊敗 AIXI；但隨著任務集合擴展至完整的可計算類別，AIXI 保證最終會勝出。

與當前典範的橋接#

報告對實務工作者最具後果的論點是：現代預訓練配方可能是受資源限制的通用 AI 近似。

• AIXI 大部分的「繁重工作」原則上都可以推入預測器中（Catt 等人 2023；Kim & Lee 2026）。
• 以大型參數模型透過最小化 log-loss 訓練的攤銷式貝葉斯預測器，原則上可以被推向通用極限（Grau-Moya 等人 2024；Genewein 等人 2026）。在這個觀點下，使用網際網路規模資料預訓練大型序列預測器，約等於受資源限制的通用壓縮，並且會隨規模擴大而改善。
• 接著，AIXI 配方建議在其上加入明確的規劃／搜尋腳手架（測試時計算），以取得通用代理——這與「智慧即搜尋」的論點有所重疊。

這為一項猜想提供了一些理論支持：今日的預訓練＋微調＋測試時擴展典範，或許能在沒有根本性理論阻礙的情況下，被推進 ASI 領域；但這些論證「既不完整，也不具決定性」，而實務限制（持續學習、長上下文、穩健規劃）仍然存在。

缺點與替代方案#

• 不可計算性，以及將理論轉化為可擴展演算法的困難（已有一些進展：Veness 等人 2011 年的 MC-AIXI、Schmidhuber 的 speed-prior 變體——但仍都不實用）。
• 非嵌入性：AIXI 位於自身環境類別的外部（因為它不可計算），因此無法將自身建模為嵌入其中，也無法推理其他 AIXI 代理；近期已有嵌入式多代理擴展處理這個問題（Meulemans 等人 2025）。
• 關聯性批評：在所有可計算世界上的平均表現，可能不是衡量我們具體世界的正確方式；限制假設類別會重新引入強假設。
• 互補框架：反思預言機、邏輯歸納、Schmidhuber 的 Gödel machines、計算力學、PAC／統計學習理論、演算法賽局理論，以及熱力學受限理性（以 Landauer 為基礎、對智慧設定能量上限）。

相關連結#

• Artificial Superintelligence (ASI) — ASI 是接近 AIXI／UAI 極限的實務區域；Legg–Hutter 連續體正是報告避開明確 ASI 定義的方式
• AGI-to-ASI Pathways — UAI 從上方限制這些路徑；「擴展是否足夠？」可對應到以更多計算逼近 AIXI
• The Bitter Lesson — 「在假設／策略空間中搜尋即智慧」是共同前提；AIXI 近似的交錯模擬，是「更多計算 → 更多搜尋 → 更多智慧」的理論形式
• Effective Compute Scaling — AIXI 近似保證會隨計算量改善，但暴力版本需要極其快速的計算成長，才能帶來線性的智慧增益
• The Abstraction Barrier — AIXI 理想與以人類資料訓練的當前典範之間，一個可能存在的實務差距
• Fundamental Limits of ASI — AIXI 將一項硬性限制（最大資料效率）形式化；物理、複雜度與邏輯則提供其餘限制
• Shane Legg／Marcus Hutter — 這套框架與智慧衡量方式的創始者
• Software 3.0 — Karpathy 的「以神經網路作為主程序」，是「以預訓練作為通用壓縮」在典範層級的近親

開放問題#

• 現代代理腳手架（或經 RL 調校的隱式決策）是否真的滿足 AIXI 的規劃理想，還是只在表面上與之相似？
• 嵌入式／多代理 AIXI 擴展能否為真實的多代理 ASI（Multi-Agent Collective Intelligence）產生實用洞見，還是仍只是一項理論修補？
• 在達到 ASI 之前，當前典範相對於 AIXI 理想的某項根本缺點是否會浮現——也就是說，「沒有理論阻礙」這項猜想是否可靠？

資料來源#

• From AGI to ASI — 第 4 節（「Universal AI — An Informal Overview」）；其中引用 Hutter 等人（2024）作為權威教科書