V神對AI發展感到恐懼：人類應打造便利工具，而非創造智慧生命

在 AI 領域蓬勃發展之際，以太坊共同創辦人 Vitalik Buterin 21 日表示，他對 AGI（人工通用智慧）與 ASI（人工超級智慧）感到害怕，因為這可能帶來明顯的失控風險，他主張應為人類打造智慧增強工具，而非打造超級智慧生命。 （前情提要：V神用中文受訪：回憶以太坊中國故事、ETH與BTC有文化差異、俄烏戰爭改變了我..） （背景補充：V神買入3萬枚$ANON幣價暴漲140%，他看好的匿名發文是什麼？） 生成式 AI 發展在過去幾年突飛猛進，越來越多令人驚嘆的成果展現在世人眼前，這不僅展示了技術的強大潛力，也引發了關於 AGI（人工通用智慧）與 ASI（人工超級智慧）是否可能實現的討論與深刻憂慮。 AGI：指具備類似人類智能的人工智慧，能夠在多種不同領域中執行任務，而不僅限於特定的應用。 ASI ：指超越人類所有智能層次的人工智慧，不僅在特定領域具有卓越的能力，還能全面性在每個方面超越人類。 OpenAI 執行長 Sam Altman 今年 9 月曾撰文預測，再過幾千個日子，ASI 就會問世，ASI 將超越 AGI，處理智慧任務的能力會遠比人類強大。 Grimes：對 ASI 感到害怕 而加拿大知名女歌手 Grimes 21 日有感而發地發推表示，當她觀察 Janus 等 AI 項目的成果後，她認爲 AGI（人工通用智慧）已經在某種程度上實現，並稱自己對 ASI（人工超級智慧）有點害怕： 至少是按照我的描述方式來看，我不知道，我顯然不是技術專家，只是一個缺乏基本知識的人，大家不應該太認真看待我的話，但這就是我的感受。其他人也有同感嗎？ 我其實不害怕 AGI，但對於 ASI（人工超級智慧）有一點害怕，這兩者似乎是完全不同的里程碑，不過，至少可以說，我相信我曾感受到智能意識的存在，但再強調一次，作為缺乏基本知識的人，我可能過度擬人化了 AI。 Idk like I am not scared of "agi" I am a bit scared of asi – these seem like drastically diff milestones. But I believe I've encountered intelligent sentience, to say the least Again – I'm a n00b with a tendency to anthropomorphize tho lol — 𝖦𝗋𝗂𝗆𝖾𝗌 (@Grimezsz) December 21, 2024 V 神有同感、盼勿打造超級智慧生命 對此，以太坊共同創辦人 Vitalik Buterin 回應，他對 AGI 的定義是：AGI 是足夠強大的人工智慧，如果某天所有人類突然消失，且該 AI 被上傳到機器人軀殼中，它將能夠獨立延續文明。 My own working definition of "AGI" (as far as I can tell, unique to me) is: "AGI" is AI powerful enough that, if one day all humans suddenly disappeared, and the AI was uploaded into robot bodies, it would be able to independently continue civilization. Obviously an incredibly… — vitalik.eth (@VitalikButerin) December 21, 2024 Vitalik Buterin 坦言，這是個非常難以衡量的定義，但他認為，這正是很多人腦海中「我們習慣的 AI」和「AGI」之間潛在的直觀差異，也就是從一個不斷依賴人類輸入的工具，轉變成一個自給自足的生命形式： ASI 則完全是另一回事，我對 ASI 的定義是，當人類在循環中不再對生產力產生價值的時候（就像在棋類遊戲中，我們其實是在過去十年才達到這一點）。 Vitalik Buterin 最後表示，ASI 讓我感到害怕，他所定義的 AGI 也讓她害怕，因為它帶來明顯的失控風險，因此，他支持將工作集中在為人類打造智慧增強工具，而不是建構超級智慧生命形式。 相關報導 CZ、V神齊喊單！生物科學迷因幣拉漲千倍，熱錢湧向 DeSci 去中心化科學賽道 V神霸氣：給我放尊重點！以太坊基金會賣ETH不是割韭菜，是確保營運與發展 V神預測「加密錢包的消失」：量子運算最終將破解外部帳戶EOA 〈V神對AI發展感到恐懼：人類應打造便利工具，而非創造智慧生命〉這篇文章最早發佈於動區BlockTempo《動區動趨-最具影響力的區塊鏈新聞媒體》。