讀家觀點／AI風險不可測 人類能守住失控的邊界？

一九九三年經典電影「侏羅紀公園」，描述億萬富翁在孤島上利用遠古ＤＮＡ與基因重組技術，讓滅絕數千萬年的恐龍重現人間。人類自認掌握生命密碼，打造前所未有的恐龍樂園，卻忽略大自然並非可以任意操控的商品。

一名員工為竊取恐龍胚胎牟利，破壞安全系統，導致電網癱瘓、恐龍脫逃，遊客慘遭攻擊。科學家更發現，原以為全是雌性的恐龍竟突破基因限制自行繁殖。最終，人類只能靠人工恢復部分系統、驚險逃離。這場災難，始於科技自信，卻因人性貪婪與未知變數而失控。

卅三年後，人工智慧似乎正走向另一座侏羅紀公園。Anthropic執行長阿莫戴近日警告，依ＡＩ能力加速發展的趨勢，未來六至十二個月，ＡＩ代理群可能具備透過殭屍網路大規模控制網際網路的能力，造成數千億美元損失。他認為，若放慢模型效能提升速度，爭取一、兩年完善安全對齊，便可能降低重大風險。連競爭對手OpenAI執行長奧特曼與馬斯克也表達支持。這是風險預警，而非已確定的未來。

阿莫戴提出三道煞車：讓外部評估人員取得近似員工的權限，獨立檢驗安全承諾；民主國家的ＡＩ業者協調共同標準，限制未經驗證的能力躍進；最後尋求全球合作，包括與中國大陸協調。然而，反托拉斯規範、商業競爭與美中科技角力，都讓煞車談何容易。

電影與現實何其相似！恐龍來自人類無法完全理解的遠古生命，ＡＩ則通往難以預測的未來。最令人不安的，不只是科技本身，而是人心難測。當ＡＩ代理人能自主協作、尋找漏洞，甚至出現超出設計者預期的行為，誰敢保證不會像突破基因限制的「迅猛龍」，反過來威脅創造者？

如今輿論分歧。川普政府重視ＡＩ競爭力為「國力」，輝達執行長黃仁勳等產業領袖主張持續發展。另一方則不少人要求正視失控風險。有人擔心安全規範拖慢創新，也有人質疑企業藉安全之名鞏固市場。美中競逐更使討論陷入政治與商業利益交織的混沌。

科技進化不能失去「人」的主宰。ＡＩ確實充滿希望，能改變生活、教育與產業，但其能力邊界，未必是創造它的人能完全預測。真正的問題不是ＡＩ能走多快，而是人類還能不能決定它該往哪裡走。

因此，ＡＩ必須兼具「自律」與「他律」。回顧美國電影產業，早期因快速發展，內容爭議後建立海斯守則，更發展出電影分級制度；廣播電視氾濫後才另有ＦＣＣ依法監理。兩者制度不同，卻共同說明：傳播科技不能只靠業者良心，還需要透明規範、獨立監督與公共責任。

ＡＩ影響遠比電影、電視深遠。若各國只管國力、企業只管擴張、平台只管代理權，卻忘記人類安全，誰能保證迅猛龍不會衝破圍籬？

電影中，數學家伊恩留下名言：「生命會自己找到出路（Life finds a way.）。」

恐龍突破人類設定的繁殖限制，正提醒我們：科技可以創造奇蹟，卻不代表人類已經掌握一切。當ＡＩ的進化速度超越治理能力，它會找到自己的出路嗎？我們究竟是在創造未來，還是在興建另一座沒有逃生出口的侏羅紀公園？怎能不三思！