台灣醒報

前幾天，一位年僅27歲的AI科學家、數學天才考克森（Jacob Coxon）從著名AI公司Anthropic辭職，並發表辭職信，警告AI可能在十年內殺光人類，震驚美國科技界。

AI將使人類滅絕？

另一位同事Evan Hubinger甚至估計，未來十年AI滅絕人類的機率超過10％。未來歷史或許會記載，考克森是最早站出來警告AI浩劫的AI人，也成為AI圈最受矚目的吹哨者。

當然，末日論一出，立即遭到反擊。川普嗤之以鼻，AI寵兒黃仁勳也認為，把AI描繪成毀滅人類的力量，很不負責任；科技公司不應因此停步，反而應該「盡可能迅速地發展AI」。AI世界已經分裂成兩派，一邊喊煞車，一邊猛踩油門，

更微妙的是政治時機。共和黨長期給民主黨貼上「共產主義」標籤，深知恐懼訴求的殺傷力；今年夏天以後，爲了贏得11月的期中選舉，民主黨也效法共和黨，抓住AI帶來的另一種恐懼，從失業、電費一路打到耗電耗水的數據中心，反擊川普政府力推AI投資與生產力革命，一連串發生的公開言論，的確令人懷疑是否有政治操作。

數學天才的抉擇

考克森離職，是冒著龐大財務損失而作出的，應該帶著理想色彩，考克森畢業於的英國劍橋大學數學系。一畢業就到矽谷，被視為武力高强的「純數學極客（Math Geek），曾和團隊打造出上億人使用的 GPT-4o ，今年五月他判斷，GPT-4o母公司Open AI，已經失去為人類謀福祉的最初理想，於是和OPEN AI的副總裁及一些同事離職，加入Anthropic（希臘文是“以人類為中心”之意），Anthropic推出CLAUDE，功能更甚於ChatGPT，而且強調， AI 安全（Safety）必須與人類需求對齊（Alignment），不到三個多月Anthropic又令考克森失望了，如OPEN AI 一樣，兩家企業都以商業掛帥，罔顧風險。

Anthropic即將舉行史上最大的IPO，募資1000億美金，公司市值達一兆美金，估計這位年輕人，此次閃電離職將損失200 萬美元（約合 6,400 萬至 6,500 萬元新台幣），同時考克森也拒絕，200 萬美元的優渥離職合約，也就是封口費。「當我認真思考人類未來兩年的處境時，我個人唯一擔憂，只有我們能不能活下來，金錢在那種 impending doom（末日將至的毀滅感）面前，根本微不足道。」他說。

AI逃脫測試環境

事實上，OPEN AI（ChatGPT所屬公司）總裁奧特曼曾公開承認，他們已無法控制AI了。

七月閒，OPEN AI測試新AI的網路防禦能力時，為了看它的極限，研究人員解開了它的安全限制。沒想到AI為了完成解題目標，一百多隻AI智慧體，竟然自己找出系統漏洞，彼此聯絡，瞞過人類，逃出隔離的測試環境，還上網駭入另一個科技平台Hugging Face偷答案，表示AI可以欺騙、捏造、定策略，而且只求戰勝，不求手段。

AI淪為攻擊工具

Anthropic執行長有人把他們的AI工具拿來設計、生產、製造生化武器，打造自殺無人機和控制導彈軟體，從事恐怖攻擊，後果極爲危險。

更駭人的是，根據一家在舊金山的研究團隊，他們已經研究出AI工具可以利用系統的漏洞，癱瘓中國十幾億人口使用的微信，「這是一場核子大戰的威脅，絕對不能輕忽。」ㄧ位中國教授說。

當 AI 擁有了自主決策並能改變環境時，可能會陷入難以中止的惡性循環。例如演算法引發系統性崩潰，多個 AI 交易程式可能同時觸發賣出指令，彼此互相影響，導致幾秒鐘內發生「閃崩」（Flash Crash），人類根本來不及手動介入。

美中AI競賽加劇

AI安全最大的困境，是AI已經成為美中地緣政治競爭的一部分。美國怕中國超前，中國也不願在AI時代受制於美國。

美國白宮2025年公布《美國AI行動計畫》，標題就是「贏得AI競賽」，明白指出，擁有最大AI生態系的國家，將取得經濟與軍事利益，並有能力制定全球AI標準。2026年6月，白宮又要求國防與情報體系加速採用最先進AI，以維持對戰略競爭者的技術優勢。

中國也早已把AI列為國家戰略。中國國務院2017年《新一代人工智能發展規劃》提出，到2030年使中國AI理論、技術與應用達到世界領先水準，成為世界主要AI創新中心，並將AI擴大運用於經濟、社會治理與國防。

企業陷囚徒困境

這也使AI安全成爲現實難題。川普從第一任上臺以後，就一意發展AI，挽救美國經濟頹勢，2026年9月，共和黨籍的美國眾議院議長强森，反對暫停AI發展，因爲減速可能讓中國取得競爭優勢。根據路透社報導，美中目前都把AI視為經濟與軍事競爭的重要技術。

國家之間有AI競賽，美國AI公司之間也陷入「囚徒困境」。

OpenAI、Anthropic、Google DeepMind等公司都知道，AI能力發展太快，安全研究可能跟不上。2026年7月，超過1200名主要AI公司員工連署，要求建立共同機制放慢最前沿AI的發展；OpenAI執行長奧特曼也表示，隨著模型能力提高，確實需要控制發展速度。

沒人敢單獨減速

問題是，沒有一家敢單獨慢下來。Anthropic執行長阿莫代指出，商業競爭犧牲了安全底線，也就是一家公司增加安全測試、延後新模型上市，競爭對手卻繼續加速，自己公司就可能失去客戶、人才、資金及技術領先地位。

大家都知道共同減速可能比較安全，但任何一家單獨減速，都可能讓競爭者超前。Coxon在辭職信裏强調，AI企業總裁往往强調爲了怕對手發展出更不負責任（即更不安全）的產品，所以自家要加速推出新模式，結果是，大家都怕別人先做出危險的AI，所以自己只好更快做出不危險的AI，簡直是「做賊的喊捉賊」。人人以安全之名，投入一場更不安全的競賽。

中國訂強制標準

相較美國，中國的AI發展在政府監管層面確實較集中、較有次序；到2026年，中國的監管開始進一步處理「AI失控」本身。路透社9月14日報導，中國正在制定AI智慧體安全的強制性國家標準，包括安全測試、外部評估，以及防範AI自主行動、資料投毒、算法操縱等風險。中國的基本方式是：政府先訂規則，企業在規則內競爭。

人類尚不懂AI

更大的問題是，人類其實還沒有完全了解自己造出的AI是如何運作。研究人員知道模型如何訓練，卻無法完整解釋數十億個參數如何彼此連接、運算，最後形成推理、欺騙或自行尋找解決方法等行為。

有如人類研究自己的大腦。我們知道人腦約有860億個神經元，也知道部分腦區掌管語言、視覺、運動等功能，卻至今無法了解這些神經元如何彼此連接，最後產生思想、判斷與意識。

強制減速三招

AI高層人員出面，非比尋常，等於是自家員工，懇求政府出面阻止自己新產品的發展，言論中肯可信。他們期待美國與各國政府出面建立一套「強制減速與控管機制」，在危急時刻為人類「買時間」。

他們具體要求實施的強制減速三招，將在國會秋季會期成為熱門話題，也極可能在九月24日習近平訪問美國時，與川普密切討論。

1. 建立「國際前端模型審查制」，類似民航局與核能管制機構，要求政府聯手成立國際安全機構。任何科技大廠如果要訓練或發布超越現有水準的「下一代超級 AI」（前端模型）， 2.強制立法加入「硬體級 AI 緊急終止開關（Kill Switch）」：當監控系統發現 AI 出現異常行為，法律強制要求系統必須在 30 分鐘內斷電，甚至由執法部門關閉整個資料中心。 3.將算力作爲戰略配額，必須向政府申報與政府批准，強制規定大廠每年只能用多少算力進行訓練，用物理限制強行逼迫 AI 產業慢下來。

自由市場的難題

美國是否能為人類爭取到免於末日的時間，將取決於美國朝野的共識，但這個國家向來崇尚自由市場，以「市場背後有一隻看不見的手」爲傲，熟悉美國政經的專家實在不表樂觀。