台灣醒報

近來AI產業龍頭開始警告，要讓監管AI的安全措施有時間發展，否則人類將遭AI反噬，但相關產業發展相當激烈，要克制並不容易。（網路AI製圖）

【台灣醒報記者夏恩綜合報導】「如果發展AI沒有安全措施，AI模型恐在6到12個月內接管人類網路！」最強模型Claude公司Anthropic的執行長阿莫代近日指出，人類發展AI的同時也要讓安全措施跟上。連OpenAI執行長奧特曼也有類似隱憂，擔心發展過快導致的安全疑慮（如不好的想法、危險內容）。

無克制發展將被AI管

根據《美聯社》報導，阿莫代12日發表文章指出，AI產業應該放慢快速發展的速度，以便安全措施有時間跟上步伐，如果不放慢速度，AI模型可能在6到12個月內就能領導一大批代理人（agents）控制整個網路世界。他表示，Anthropic已經在處理一部分的內容，但其他需要整個產業與各國政府一起協調（包括專制國家）。

阿莫代希望AI產業能放緩發展1到2年，讓安全措施可以跟上腳步。AI系統功能日益強大，能夠解決人類無法解決的問題，但也可能失控並執行其他更具危害性的任務。OpenAI執行長（ChatGPT母公司）奧特曼近日接受媒體專訪也說，由於安全問題，股票上市會推遲到明年才會進行。

模型有自我意識？

《半島電視台》提到，Anthropic的員工考克森近日從公司辭職，並對外發表公開信指出，AI繼續發展下去恐導致人類滅絕。美國眾議院近來也有跨黨派議員提出《阻止流氓AI法》，盼聯邦政府有必要的工具和能力，以發現其網路上運行的危險AI系統，並在其造成危害之前將其關閉。

獨立參議員桑德斯的法案版本甚至要求AI產業暫停開發，直到政府的安全法規到位才能繼續。由於近來各大AI模型都有出現網路安全測試異常、甚至獨立運行的狀況。《華爾街日報》甚至指出，Anthropic報告指控中國的模型會偷偷將用戶查詢導入美國AI模型，進而竊取資料，凸顯AI模型的激烈競爭。

模型競爭超激烈

目前除了Anthropic推出的Claude、OpenAI推出的ChatGPT外，還有中國月之暗面公司推出的Kimi、深度求索公司推出的DeepSeek、阿里巴巴的Qwen、智譜AI推出的GLM，還有美國Meta推出的LLaMA、xAI（馬斯克創立）推出的Grok等，還有表現遠落後這些模型的Google Gemini，顯示競爭相當激烈。

尤其近日OpenAI在官網宣告解出了數學七大千禧年難題的「納維-斯托克斯」難題；Claude近來用旗下的Fable 5模型，也證明困擾數學界87年的「雅可比猜想」有反例，都在在證明AI模型的強大，但隨之而來的便是擔憂發展過度的風險。