台灣醒報

這幾天科技圈為了AI安全吵成一團，Anthropic執行長Amodei說AI發展應該慢下來，OpenAI執行長Sam Altman說，大家擔心AI是有道理的，但仍應相信AI公司會把事情做好。Nvidia執行長黃仁勳則認為，安全本來就是工程問題，公司沒有把握就不要推出產品，不需要再增加新的法律與管制。美國參議員Bernie Sanders甚至認為AI可能比核武更危險，主張禁止發展人類無法控制的超級智慧。

各種聲音中，有的要大家相信業者或相信市場，有人乾脆想用重法禁止。

但我們為什麼非得在各種極端答案中選一個？AI已經進入企業、政府、學校、醫院和每個人的手機，討論安全卻常變成「相信我」與「AI會毀滅人類」的喊話比賽，應該把注意力拉回具體風險與可執行的政策。

不要相信公司會自律

Altman希望社會相信AI公司，但信任不能拿來代替制度。飛機公司也希望飛機安全，航空安全仍然有適航認證、飛安調查與事故通報。藥廠當然不希望藥吃死人，也不能因此取消臨床試驗，適當的安全程序絕對是必要的。
黃仁勳相信市場會懲罰不安全的產品，但市場處罰通常發生在事故之後。如果AI造成個資大量外洩、金融系統遭攻擊，甚至重要基礎設施停擺，事後再怎麼處罰也無濟於事。

別自己嚇自己

Sanders擔心AI失控，但把AI與核武直接相比，很容易讓討論失焦。核武的爆炸威力、輻射傷害及大量死亡都有歷史資料與物理模型支撐。AI會不會產生超越人類而且無法控制的智慧，目前仍有很大的科學不確定性。把最壞情境當成必然結果，政策很容易過當。

AI毀滅人類的風險當然存在，但政府若被末日想像牽著走，可能把研究、開發甚至正常的AI應用一起管死。禁止所有可能走向超級智慧的研究，執行上也有困難。到底多少算力、多少參數、什麼能力才算越線？今天合法的研究，模型能力進步後明天就變成犯罪嗎？

AI最大的危險也未必需要等到「機器消滅人類」才發生，詐騙、深偽、網路攻擊、隱私侵害、偏見決策、兒少保護、假訊息及自主代理程式亂跑，都是眼前需要處理的事。天天討論人類會不會滅亡，反而可能忽略需要緊急修理的凡人瑣事。

管可以和該管的

美國國會最近難得出現跨黨派合作，共和黨與民主黨議員正推動AI監督立法，過去提出的方案包括要求先進AI接受風險評估、提高透明度，以及在部署前提供必要資訊供政府檢驗。

這條路比「相信科技公司」或「禁止超級AI」務實得多，高風險模型推出前做獨立測試，重大事故強制通報，資安漏洞建立調查制度，涉及醫療、金融、交通及基礎設施的AI提高門檻，造成損害後責任由誰承擔也要寫清楚。
台灣已經建立「人工智慧風險分類框架」，要求主管機關從應用情境出發，辨識、評估並處理風險，再由各目的事業主管機關轉化成可以執行的管理規範，這比所有AI套用同一把尺合理得多。醫院診斷癌症的AI，當然不能和幫忙修改簡報的AI用相同標準管理。

做好基本的管理工作

政府該做的工作很基礎，訂測試標準、查資安漏洞、要求事故通報、追究法律責任、保護兒童與個資，還要找真正懂AI的人進政府。這些事情沒有「AI毀滅人類」那麼吸睛，也沒有「市場自己會處理」那麼輕鬆，卻是務實政府該做的。

AI究竟會把人類帶到哪裡，沒有人知道。能預知的風險就先管，可能造成重大傷害的先測，出了事故一定查，誰闖禍誰負責。AI愈強，這幾件事愈重要。