以太坊共同創辦人 Vitalik Buterin 今日針對 AI 的發展發表評論，他認為錯誤的 AI 發展可能帶來獨立且能自我複製的智能生命體，而正確方向是成為人類智慧的「機械裝甲」，以實現繁榮的超智慧人類文明。
（前情提要：V神對AI發展感到恐懼：人類應打造便利工具，而非創造智慧生命）
（背景補充：Vitalik 開罵幣圈現況：加密貨幣已悖離密碼學、資安領域，這很失敗）
本週，輝達執行長黃仁勳在 2025 年 CES 的主題演講中提到：「AI agent 有潛力成為一個數兆美元的產業。」助長了加密社群對 AI Agents 的熱情，據 Kaito 數據，AI 在本週的關注度首次達到接近 70% 的水平。
V 神：正確的 AI 發展為人類智慧配備「機械裝甲」
而在今日，以太坊共同創辦人 Vitalik Buterin 也對 AI 的發展發表評論表示：
錯誤的 AI 發展可能會創造出獨立且能自我複製的智慧生命體。
而正確的 AI 發展是成為人類思維的「機械裝甲」。
如果我們只做到了前者而忽略後者，人類可能面臨永久失去權力的風險；但若做到了後者，我們有望實現繁榮的超智慧人類文明。
在實現後者的方法上，Vitalik 進一步解釋：
提煉（distill）人類判斷力是集體層面實現後者的一種方法。
現今的許多 AI 影片生成工具已展示了這種趨勢的端倪：不是簡單地「輸入指令後等待結果」，而是即時進行精準控制與調整的過程。
Vitalik 還附上了自己去年 11 月撰寫的文章截圖，闡述了一種通過「資訊金融」來提煉人類判斷的方法，目的是讓複雜、昂貴且高效的人類判斷機制能以低成本、快速且高效的方式運作。他引用 Robin Hanson 的想法，表示可以借助「預測市場」。
透過市場機制，我們能夠以可信中立且快速廉價的方式獲得原本昂貴機制的「提煉版本」（這裡使用「提煉」這個詞，類似於 LLM 的蒸餾過程）。
隨著時間的推移，這種提煉機制會大致模仿原始機制的行為，因為只有那些幫助達到正確結果的參與者能賺錢，而其他人則會虧損。
從他分享這段內容來看，他可能想探索 「如何讓人類價值觀和智慧高效融入到 AI 系統的決策中」，並且強調經濟激勵在這其中的重要性。
AI done wrong is making new forms of independent self-replicating intelligent life
AI done right is mecha suits for the human mind
If we do the former without the latter, we risk permanent human disempowerment. If we do the latter, flourishing superinteligent human civilization
— vitalik.eth (@VitalikButerin) January 10, 2025
應打造 AI 代理人嗎？
另一方面，在回答網友關於「設計選擇應該是代理型 AI 還是以提升人類能力為核心？」的提問時，Vitalik 表示：
「代理（Agents）」是一個有趣的詞。有時它指的是「可以自行運行並制定複雜計劃，持續數天且無需人類干預的 AI」，但更多時候它僅僅指「聊天機器人取代 GUI（圖形用戶界面），成為應用的主要交互方式。
Vitalik 直言，後者非常棒。這與他去年 12 月發表的一篇關於理想錢包的文章不謀而合。在那篇文章中，他探討了 AI 的進步可能帶來交互方式的深刻革命，並指出未來有可能從傳統的點擊操作和輸入模式，轉變為「說出你的需求，機器人幫你完成」的全新模式。他提到：
通過自然語言輸入、眼球追蹤，甚至未來更直接的腦機接口（BCI），以及對用戶歷史的深入掌握（如簡訊記錄，前提是所有數據僅在本地處理），「錢包」能更直觀地理解用戶的意圖。
AI 可將這些意圖轉化為具體的「行動計劃」，即一系列鏈上和鏈下的操作來實現用戶需求。這樣一來，對第三方用戶界面的需求將大幅減少。
如果用戶需要與第三方應用或其他用戶互動，AI 應該以用戶利益為出發點，提前檢測潛在風險，並提供解決方案建議。
Vitalik 補充道，理想情況下，這些 AI 應由不同團隊開發，形成一個多樣化的開放生態系統，滿足不同的偏好與需求。
主張開發能增強人類智慧的工具
去年 12 月底，Vitalik 在討論 AGI（人工通用智慧）與 ASI（人工超級智慧）時，提出了他對 AGI 的定義：AGI 是一種足夠強大的人工智慧，假如某天所有人類突然消失，而這個 AI 被上傳到機器人的軀殼中，它能夠獨立維持文明的運作。
他也坦言，這是一個極其難以量化的定義，但這正是許多人心中「我們習慣的 AI」與「AGI」之間的潛在直覺差異。從一個不斷依賴人類輸入的工具，進化成為一種自給自足的生命形式，便是這種差異的核心所在。
至於 ASI，Vitalik 將其視為一個更高層次的概念：當人類的參與（human-in-the-loop）不再為系統帶來任何價值時，便達到了 ASI 的標準。他舉例指出，國際象棋中的 AI 也只是最近十年間才達到這一水準。
他坦率地表示，ASI 令他感到恐懼，甚至他自己定義的 AGI 也讓他不安，因為這些技術可能帶來人類失去控制的重大風險。
因此，Vitalik 更傾向於專注於開發能增強人類智慧的工具，而不是構建某種形式的超級智慧生命。他的這一立場，與他今天提到的觀點一致：正確的 AI 發展應該為人類智慧裝上「機械裝甲」，而非創造新的獨立智慧生命體。
ASI ：指超越人類所有智能層次的人工智慧，不僅在特定領域具有卓越的能力，還能全面性在每個方面超越人類。
📍相關報導📍
Vitalik：AI時代Deepfake氾濫，如何保證資訊安全、驗證身份？
