在 Sam Altman 確定將回鍋 OpenAI 擔任執行長一職後,解僱風波終於告終。最新消息指出,在 Sam Altman 被趕下台前,OpenAI 董事會曾收到一封研究人員的警告信,稱 Sam Altman 最新研究的通用人工智慧(AGI)出現重大突破,恐成為人類威脅,這封信函成為他被解僱的關鍵因素之一。
(前情提要:Altman重掌OpenAI執行長寶座!將成立新董事會)
(背景補充:OpenAI近500名員工威脅董事會:恢復Altman職位,否則「全部辭職」投向微軟)
一手催生 ChatGPT 的 OpenAI 執行長 Sam Altman 在上周六突然被董事會以「始終不坦誠,阻礙董事會履行職責的能力」為由解職,引發全球譁然,但幾經反轉,Sam Altman 在昨日確定將回鍋 OpenAI 擔任執行長一職,並組成新的董事會。
而據路透報導,知情人士透露,在 OpenAI 創辦人 Sam Altman 離職的四天前,有幾名研究人員致函 OpenAI 董事會,警告一項強大的 AI 技術可能對人類構成威脅,這封信是導致 Sam Altman 被解雇的關鍵因素之一,董事會擔憂在徹底了解此技術之前,就試圖將其商業化。
知情人士表示, OpenAI 的一些員工認為,「Q* 專案」(Q-Star) 可能是 OpenAI 在探索通用人工智慧(AGI)方面的重大突破,OpenAI 將 AGI 定義為「可在最具經濟價值任務中超越人類的自主系統」。
有了龐大的運算資源,知情人士稱, Q* 能夠解決某些數學問題,雖然僅在中小學生水平上進行數學測驗,但通過這樣的測試,讓研究人員對 Q* 未來的成功相當樂觀。
研究人員認為,數學是 AGI 發展的前沿,當前的 AGI在寫作、翻譯方面表現出色,同一個問題,可給出不同的回答,但數學只有一個正確答案,征服數學代表 AI 將擁有類似人類的較強推理能力,可應用在新的科學研究上。
因恐威脅人類遭解雇?
據悉,在致董事會的信中,研究人員提到 AI 的威力和潛在的危險。長久以來,電腦科學家一直在討論高智慧機器帶來的危險,像是它們是否可能認為毀滅人類符合自身利益。
值得注意的是,Sam Altman 在上週於舊金山召開的 APEC 峰會中曾宣稱,重大進展近在眼前,他稱在 OpenAI 的歷史上,已出現四次重大進展,最近一次是在過去數週,他能參與其中是一生中的榮譽。
而在一天過後,董事會就解雇了 Sam Altman 。
📍相關報導📍
Google為何輸給OpenAI?前員工說破「裡頭的恐怖圍牆」