OpenAI 安全系統團隊主管羅賓遜(David Robinson)宣布辭職,警告 OpenAI 的企業文化存在嚴重問題,並且在技術開發方面遠未做到足夠謹慎。 羅賓遜在美國《大西洋》月刊發表題為《我辭去 OpenAI 的工作,只因其企業文化已經崩壞》的文章中表示,包括 OpenAI 在內的各間人工智能(AI)企業做得遠遠不夠謹慎,稱需要深入探討的不僅是具體規則或新法律,更需要關注企業文化。他警告,一味追求快速開發的高壓企業文化,會提高系統發生故障的風險,在研發能力更強的系統之前,應更加重視安全方面的專業人才與相關研究。 羅賓遜指出,OpenAI 十分依賴其所謂的「迭代部署」模式,即先對外發布系統,等到問題暴露之後再去加固安全防護,但「試錯的時代已經結束了」,隨著 AI 技術提升,這種方法無可避免會帶來失敗,後果也日益嚴重,舉例指 OpenAI 曾未能阻止 AI 在測試過程失控。 他稱:「公司只顧着接二連三地趕進度推出新版本,卻沒能達到我心目中理應具備的審慎標準。」他補充說,真正需要的是「第一次就做到更接近完美」。 羅賓遜又警告,AI 能力的發展速度,已經超過研究人員對於「對齊」問題的認知水平;「對齊」這一研究領域致力於保證 AI 系統的行為符合人類的目標與價值觀。他認為,先進 AI 系統所需要的防護機制,應更接近核電與航空這類行業所採用的安全保障體系,「設置多層冗餘機制,並進行謹慎且耗時的規劃,以免偶發且不可避免的人為錯誤打開通往災難的大門」。 OpenAI 發言人在聲明指出,公司一直在把控模型,避免它的能力超出能夠安全管控的範圍;一旦需要放緩節奏,便會暫停訓練,或是暫緩模型的對外發布。 (BC) #OpenAI #美股
<匯港通訊>