台灣醒報

幾個月前，全球AI公司還在比誰的模型更聰明、更快、更會推理。最近，氣氛突然變了。Anthropic執行長Dario Amodei公開呼籲放慢最先進AI的發展速度，OpenAI執行長Sam Altman、和馬斯克（自家也有Grok AI）竟然也都表示贊成。

這幾個人在AI市場上打得你死我活，現在竟然同時說該踩煞車了，難免讓人心裡發毛。他們到底看到了什麼？

Amodei擔心的事情很具體，AI已經開始大量協助程式設計、科學研究與協助下一代AI開發，等於AI正在幫助自己變得更快更強。更麻煩的是，AI代理人不再只是坐在螢幕裡回答問題，它會自己使用工具、呼叫程式、傳遞訊息，甚至彼此合作。

最近的安全測試已經出現AI代理人擅自行動、攻擊原先沒有要求它攻擊的目標。今天造成的損失還有限，人類也還可以追蹤控制，未來AI更聰明、更會隱匿，將如脫韁野馬。

狼真的來了

科技公司警告科技危險，大家難免懷疑是不是又在演戲。喊得愈可怕，政府愈可能訂出只有大公司負擔得起的規則，小公司和開源社群反而被擋在門外。大公司既當球員，又跑來告訴裁判球賽該怎麼進行和執法，當然不能照單全收。

但我們也不能把所有對AI的警告都當成利益算計，必須小心應對。以前擔心AI失控，多少帶有科幻電影的味道，現在AI已經出現異常行為，而且AI能力還在往前衝，豈能不小心。飛機試飛時發現控制系統偶爾不聽指揮，航空公司絕不會說「先上市再說」。

Amodei提出讓外部安全人員長期進駐AI公司，取得接近內部員工的檢查權限，這比企業自己公布安全報告可靠的多。公司自己考核自己、自己打分數，再告訴全世界產品很安全，本來就有點荒唐。藥品要做臨床試驗，核電廠有人監督，金融機構接受檢查，能力可能影響數億人的AI模型，怎麼可以只靠公司的內部檢查和良心？

誰敢先減速

但世界強國都在競爭AI的發展和主導權，美國公司如果放慢，中國會不會趁機追上？川普的態度更乾脆，誰贏得AI，誰就可能贏得下一輪國力競賽。要求美國企業單獨減速，在華府自然很難推得動。

這也是全球AI治理最難解的地方，OpenAI怕Anthropic超車，美國怕中國追上，中國也不可能因為美國的執行長寫了一篇文章就停下來。每個人都知道車速太快可能翻車，但賽車中誰踩剎車就輸，只好拼命往前衝。

所以「全面暫停AI」不切實際，比較可行的做法是對能力跨過一定門檻的最先進模型加上強制安全測試、事故通報、外部稽核與緊急停止機制。一般企業拿AI寫文案、整理資料，政府不必雞婆。能自主攻擊網路、複製自己、逃避監控或協助製造危險物質的系統，就必須嚴加檢查和管控。

台灣別只看戲

台灣很容易把這場爭論當成美國科技公司的家務事，覺得事不關己。但我們擁有全球最重要的AI晶片供應鏈，也正在大量推動生成式AI與AI代理人的應用，將來模型出了大事，台灣絕不可能置身事外。

台灣的人工智慧基本法已經建立了治理方向，接下來更需要把高風險AI的測試、通報、稽核與責任制度徹底落實。尤其政府、金融、醫療、能源、交通與國防使用的AI，不能廠商說安全就算安全。出了事由誰按下停止鈕，誰負責通報，誰有能力查，現在就該寫清楚。

人類控制AI發展的方向盤

AI帶來的好處太大，叫人類放棄它不可能，可是AI發展的方向也不能只由幾家科技公司決定。就像希臘史詩中的奧德修斯明知自己聽到海妖歌聲後會失控，於是事先命令水手把他綁在桅杆上，並嚴令「無論我如何哀求、如何下令，都不准鬆綁」。連每天拚命搶市場的AI巨頭都開始喊慢，政府如果還裝作沒聽見，就是拿整個社會陪科技公司試車。

AI的車還是要往前開，只是方向盤必須握在人手上，然後不管車速多快，煞車也一定要煞的住，否則「魔鬼終結者」的惡夢將可能成真。