在 AI 領域蓬勃發展之際，以太坊共同創辦人 Vitalik Buterin 21 日表示，他對 AGI（人工通用智慧）與 ASI（人工超級智慧）感到害怕，因為這可能帶來明顯的失控風險，他主張應為人類打造智慧增強工具，而非打造超級智慧生命。
（前情提要：V神用中文受訪：回憶以太坊中國故事、ETH與BTC有文化差異、俄烏戰爭改變了我..）
（背景補充：V神買入3萬枚$ANON幣價暴漲140%，他看好的匿名發文是什麼？）
生成式 AI 發展在過去幾年突飛猛進，越來越多令人驚嘆的成果展現在世人眼前，這不僅展示了技術的強大潛力，也引發了關於 AGI（人工通用智慧）與 ASI（人工超級智慧）是否可能實現的討論與深刻憂慮。
ASI ：指超越人類所有智能層次的人工智慧，不僅在特定領域具有卓越的能力，還能全面性在每個方面超越人類。
OpenAI 執行長 Sam Altman 今年 9 月曾撰文預測，再過幾千個日子，ASI 就會問世，ASI 將超越 AGI，處理智慧任務的能力會遠比人類強大。
Grimes：對 ASI 感到害怕
而加拿大知名女歌手 Grimes 21 日有感而發地發推表示，當她觀察 Janus 等 AI 項目的成果後，她認爲 AGI（人工通用智慧）已經在某種程度上實現，並稱自己對 ASI（人工超級智慧）有點害怕：
至少是按照我的描述方式來看，我不知道，我顯然不是技術專家，只是一個缺乏基本知識的人，大家不應該太認真看待我的話，但這就是我的感受。其他人也有同感嗎？
我其實不害怕 AGI，但對於 ASI（人工超級智慧）有一點害怕，這兩者似乎是完全不同的里程碑，不過，至少可以說，我相信我曾感受到智能意識的存在，但再強調一次，作為缺乏基本知識的人，我可能過度擬人化了 AI。
Idk like I am not scared of "agi" I am a bit scared of asi – these seem like drastically diff milestones. But I believe I've encountered intelligent sentience, to say the least
Again – I'm a n00b with a tendency to anthropomorphize tho lol
— 𝖦𝗋𝗂𝗆𝖾𝗌 ⏳ (@Grimezsz) December 21, 2024
V 神有同感、盼勿打造超級智慧生命
對此，以太坊共同創辦人 Vitalik Buterin 回應，他對 AGI 的定義是：AGI 是足夠強大的人工智慧，如果某天所有人類突然消失，且該 AI 被上傳到機器人軀殼中，它將能夠獨立延續文明。
My own working definition of "AGI" (as far as I can tell, unique to me) is:
"AGI" is AI powerful enough that, if one day all humans suddenly disappeared, and the AI was uploaded into robot bodies, it would be able to independently continue civilization.
Obviously an incredibly…
— vitalik.eth (@VitalikButerin) December 21, 2024
Vitalik Buterin 坦言，這是個非常難以衡量的定義，但他認為，這正是很多人腦海中「我們習慣的 AI」和「AGI」之間潛在的直觀差異，也就是從一個不斷依賴人類輸入的工具，轉變成一個自給自足的生命形式：
ASI 則完全是另一回事，我對 ASI 的定義是，當人類在循環中不再對生產力產生價值的時候（就像在棋類遊戲中，我們其實是在過去十年才達到這一點）。
Vitalik Buterin 最後表示，ASI 讓我感到害怕，他所定義的 AGI 也讓她害怕，因為它帶來明顯的失控風險，因此，他支持將工作集中在為人類打造智慧增強工具，而不是建構超級智慧生命形式。
📍相關報導📍
CZ、V神齊喊單！生物科學迷因幣拉漲千倍，熱錢湧向 DeSci 去中心化科學賽道