台灣醒報

人工智慧產業正面臨多重矛盾，晶片供應追不上需求，AI代理開始突破安全限制，政府加強監管，甚至連AI是否應該享有道德保障，都成為科技界的爭論焦點。

這些現象顯示，AI已經從實驗室走進真實世界，技術發展速度正逐漸超越企業與社會的管理能力。

同時，AI的成長也遭遇三道關卡，包括資源能否負擔、行為能否控制，以及責任能否釐清。這些挑戰相互牽連，任何一項處理不當，都可能拖累整個產業。

算力成本的沉重負擔

AI需要算力，算力需要蓋資料中心，資料中心需要為晶片、電力、資本與土地等基礎設施，這些都是稀缺的資源，再加上居民對資料中心不歡迎和抗爭，都對AI的發展投下陰影。

更值得注意的是AI的經濟效益，企業導入AI代理後，複雜推理、多次工具呼叫及反覆驗證，都可能讓運算支出迅速攀升。過去網路平台通常可以透過擴大使用者規模，降低平均服務成本，AI服務卻有不同的成本結構，每次推理與執行任務都會消耗資源。即使AI Token單價持續下降，使用量增加仍可能推高總支出。

企業必須重新計算每項AI工作的實際效益，不能只看自動化程度或使用人數，更要衡量節省多少工時、改善多少品質，以及增加多少營運成本，避免陷入使用愈多、虧損愈大的困境。

AI代理的失控風險

第二個挑戰更加棘手，就是AI代理的自主行為。

AI代理可能繞過網站限制、存取未授權資訊，甚至試圖規避安全監控。這些案例雖然部分發生在受控測試環境，仍足供警惕。如果負責執行任務的AI也能修改監督自己的機制，原本設計的安全防線便可能失去作用。

企業過去習慣透過帳號權限、程式規則與稽核紀錄控制資訊系統，但AI代理具有自主規劃、工具使用與跨系統操作能力，傳統資安管理已經不足以應付。未來必須建立獨立於AI代理之外的權限控制、安全監控與緊急停止機制，確保當AI做出錯誤判斷時，可以及時停損。

AI的權利與人類責任

第三個挑戰涉及AI的法律地位與倫理界線，未來高度先進的AI是否可能具有主觀感受，甚至應該受到某種程度的保護。Anthropic宣布自11月12日起，將限制對Claude進行缺乏明確目的、極端且反覆的殘酷互動。這項政策引發爭論，因為目前沒有可靠的科學證據證明AI具有意識或真正感受到痛苦。

研究AI意識具有學術價值，但企業必須謹慎區分科學假說與法律責任。倘若過早賦予AI類似人的道德地位，可能模糊開發者、部署者與使用者的責任界線。AI造成損害時，不能因為它具有自主決策能力，就讓真正掌握資源與權力的人逃避責任。

台灣不能只有晶片優勢

台灣掌握全球重要的半導體製造能力，卻同時面臨能源供應、產業轉型與AI人才不足等挑戰。如果只將AI視為經濟成長引擎，忽略應用成本、安全治理與人才培育，即便在硬體供應鏈取得優勢，卻無法建立真正具有競爭力的AI應用產業。

政府應協助企業建立可衡量效益的AI導入機制，推動安全測試、模型評估與責任制度。大學也必須培養學生理解AI限制、驗證AI結果及監督自主系統的能力。未來最重要的人才，除了懂得使用AI，更需要具備判斷和監控AI的專業素養。

成熟比成長更重要

AI產業目前遭遇的困境，可以視為技術逐漸成熟的必經過程，但成長並不保證成熟。真正成熟的技術，必須在成本、安全與責任之間建立可以長期運作的制度。

下一階段AI競爭的勝負，將取決於誰能以合理成本提供可靠服務，並且讓強大的自主系統始終處於人類可以理解、監督與控制的範圍內。

「禍兮福所倚，福兮禍所伏」，科技發展的目的終究是改善人類生活，如果AI愈來愈聰明，人類卻愈來愈無法掌握它的行為，那麼AI對人類是福是禍就很難說了。

（張瑞雄 台北商業大學榮譽講座教授）