特朗普剛說「誰贏AI誰就贏」,奧特曼:AI失控了,誰贏都沒用
動察 Beating AI 快訊,特朗普剛以中國競爭為由拒絕 AI 減速,OpenAI CEO Sam Altman 隨後發長文繼續堅持「踩剎車」。他說,所謂減速並不是停止研發,而是讓模型進步慢一點,給安全和監控留下時間。「無論美國面臨多大的競爭壓力,都不能成為魯莽開發的理由。」
OpenAI 還準備把安全審查進一步前移。過去的安全框架主要盯模型發布,現在公司會在可能大幅提升能力的前沿強化學習訓練開始前,就提前寫好明確的「安全論證」,確認風險和保護措施。Altman 也支持全國統一的前沿 AI 安全標準和獨立審查,但認為不用等國會立法,各家公司現在就該先做起來。
Altman 還點出兩個最壞結局。一個是人類徹底失去對 AI 的控制,另一個是超級 AI 被一個人、一家公司、一個實驗室甚至一個國家壟斷。他認為兩種情況都必須避免,AI 最終必須始終服從人類。