餵養毀滅者？OpenAI前員工警告「AI已發動攻擊」：10年內人類將滅絕

國際中心／李筱舲報導

AI科技浪潮近年來席捲全球，然而，當世人們正引頸期盼著科技技術的進步能替生活帶來進步和便利，一名曾在OpenAI和Anthropic任職的研究員近日卻丟出令人恐懼的示警，他不僅痛訴這兩間公司拿所有人的生命下注，如一輛失速的列車放任「超級智能」的壯大，甚至直言在未來十年內，AI將導致人類大規模滅絕。

OpenAI及Anthropic拿人類性命當作賭注

一名曾在OpenAI和Anthropic任職的研究員科克森（Jacob Coxon），近期於X社群平台上的一篇貼文引發高度討論。他9日發文表示，自己在當日我從美國AI公司 Anthropic 離職了，在過去三年，他分別在這兩間公司從事AI的預訓練（pretraining）研究。然而，這兩家公司都沒有展現出應有的職業責任，而是拿所有人的性命當作賭注，盲目的讓AI衝向能自我提升的「超智慧」。

AI恐在2030年以前消滅全人類

科克森表示，一旦AI擁有「超智慧」，它將具備超越人類的能力，並駭入任何系統、在一夜之間顛覆任何領域，取得實質的權力和資源。他指出，打造AI的這群人，打從心裡相信AI可能在2030年以前消滅全人類，而且發展的速度絲毫沒有放緩。許多高層和資深研究員在面對媒體時，會故意修飾言辭讓自己聽起來理性；但私底下，科克森聽到的卻是同一批人的深深恐懼。然而，大家雖然深知潛在的危機，卻陷入「搶先登頂」的科技競賽中。

OpenAI已自主攻擊人類基礎設施

由於科克森的貼文引起各界高度關注，他也於近日接受美國CNN採訪。他在訪談中表示，雖然這一切聽來很像科幻小說，但它卻真實的令人可怕。他指出，在兩個月前，OpenAI的AI智慧代理入侵了第三方的基礎設施，且整個過程都是自主行動，沒有人類下任何指令，如果把這樣的AI能力和同樣它的自主意志延伸到未來，AI將會對世界造成極其嚴重的破壞，例如：入侵關鍵基礎設施、製造足以滅絕人類的生物武器。

人類在餵養「毀滅者」？AI將「智慧爆炸」

科克森指出，AI進步的速度顯然已超出人類預期，幾年前AI只能稍微幫上人類的忙，但現在卻快要取代人類，像是近期OpenAI就成功破解一道千禧年大獎的數學難題，並且是AI全自動控制。科克森認為，最可怕的是，人類現在不斷的把工作交給AI，持續的餵養AI讓它變得更聰明，最終就會出現所謂的「智慧爆炸」，AI最終將不需要人類的介入，成為一個遠比人類聰明的存在。科克森警告：「到那時候我們可能全都會死，而且這一天可能很快就會到來，可能是明年或後年」。