本文共991字
AI模型能力迅速提升,不僅使企業加緊修補資安漏洞,也加深美國科技業和政府對是否放慢開發腳步的分歧。花旗集團執行長范潔恩(Jane Fraser)警告,全球企業正爭相加固資安防線;微軟AI執行長蘇萊曼(Mustafa Suleyman)則主張,不應以中國大陸的競爭壓力為由,拒絕建立AI安全規範。
范潔恩周日在紐約舉行的卡達經濟論壇表示,企業正全力加固各道防線,全球也掀起大規模修補資安漏洞潮,防範日益強大的AI模型助長網路攻擊。
Anthropic今年推出Mythos模型時,曾警告這套系統可能開啟網路風險的新時代。范潔恩說:「Mythos推出那天,絕不是個好日子。」
Mythos問世後,美國財政部長貝森特和時任聯準會(Fed)主席鮑爾曾召集華爾街高層開會,要求金融業者做好準備,強化系統以因應更強大的AI模型。
Google和Anthropic的AI後來也都意外闖入企業系統,使AI安全疑慮升高。Anthropic執行長阿莫戴呼籲放慢AI開發腳步,並宣布引進第三方人員評估模型安全。
高盛集團執行長蘇德巍(David Solomon)周日也在論壇上說:「我認為大家都需要深呼吸,放慢一點。」不過,他深信AI不會使人類滅亡,也會繼續積極參與AI發展。
蘇萊曼則認為,建立安全規範不必拖慢AI進展。他接受CNN節目訪問時說:「我不認為我們應該拿中國當做擋箭牌,作為不推動自身AI安全工作的理由。」
微軟AI團隊上周二發表宣言,提出該部門開發AI的準則,目標是確保未來系統仍由人類掌控。蘇萊曼上周也撰文批評Anthropic用來指導Claude模型的部分文件,認為把AI過度擬人化,反而可能增加控制風險。
他表示,AI模型的目標應受以人為本的準則約束,並設下明確安全界線。管制不應被視為壞事,而是建立共同規範和標準,提高AI安全,也不必因此拖慢產業發展。
川普上周六則表示,美國絕不會阻礙或扼殺AI產業成長,還將任命AI政策總管,以維持美國領先中國大陸和其他國家的地位。
白宮科技顧問克拉齊奧斯(Michael Kratsios)也反對全面適用的管制方式,主張應依AI的個別用途和產業特性處理安全問題。他並表示,任何業者若認為自行開發的模型不安全,大可停止開發或限制使用。
在安全爭論之外,范潔恩指出,AI產業眼前的瓶頸已從晶片轉向能源。她說,全球AI用電需求極為龐大,能源供應已成為進一步發展的主要限制。


※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容
留言