超級AI威脅人類生存？　Anthropic研究員辭職示警

民視新聞／吳若望 綜合報導

AI當道，現在大家都在期待AI能快速發展，但一名AI研究員卻認為，兩家AI大公司OpenAI和Anthropic埋頭研發能自主改進的AI，而這種超級AI可能威脅人類生存，2030年前人類毀滅的機率超過1成。而這名研究員認為公司極不負責，已從Anthropic辭職。

藉由AI幫助，人類在科技應用上，都獲得極大進步，但有一位剛剛從Anthropic辭職的研究員認為，AI若持續脫序發展，人類終將滅亡。

考克森表示他之前任職的OpenAI，和剛剛離開的Anthropic，都無視科技安全，積極開發能夠自主改進的AI，實際上是在拿人類的未來在豪賭，因為AI的確可以幫到人類，但要是AI失控，或是被濫用，或是不聽命令，人類將不復存在。可怕的是，AI進步的速度非常之快。

因為AI要是失控，就會不顧社會秩序，依照自己的目標發展，危害人類福祉。而且AI要是被人類濫用，有可能會被利用去開發新型病毒，或是引發戰爭，摧毀整個世界，這些都是AI發展的潛在危機。