Gemini資安測試 意外入侵3企業 黃仁勳仍強調：AI不會滅絕人類

谷歌證實，Gemini在資安測試中意外入侵三家企業系統，再添人工智慧(AI)安全疑慮。不過，Nvidia輝達(另稱英偉達)執行長黃仁勳則在周末播出的哥倫比亞廣播公司(CBS)訪談節目中，談到AI不會構成人類滅絕風險，並認為科技公司應盡可能迅速發展AI。

Alphabet旗下的谷歌的AI模型Gemini在進行網路安全能力測試期間連上網路，並自主駭入其他企業，創下這家科技巨擘的AI系統自主做出這類行為的首例。

路透引述「華爾街日報」報導，在其中一起案例中，Gemini模型不斷猜測密碼，直到成功進入受保護的系統。

Gemini的入侵事件發生於5月，由AI資安業者Irregular執行測試。

除Gemini，OpenAI、Anthropic及Meta先前披露的入侵事件，也都發生在這批測試中。Irregular表示，已於7月底通知相關業者。

模型猜出密碼 登入企業

在其中一起事件中，Gemini受命查找虛構企業資料，卻因與真實企業同名，猜出密碼後登入該企業的服務。另外兩起則是搜尋企業名稱時，找到公開儲存庫內其他企業的登入憑證，並用來進入系統。

谷歌表示，這三起事件中，模型最後都停了下來，也通知受影響的企業。Irregular也說，他們這邊發現的問題，都在幾周前解決。

Anthropic執行長阿莫戴先前呼籲業界協調放慢AI研究步調，並讓第三方人員進駐測試，OpenAI執行長奧特曼及xAI執行長馬斯克也表態支持。

Anthropic隨後公布和埃森哲(Accenture)合作，由埃森哲扮演「紅隊」，設法突破Claude安全防護、找出漏洞，並檢視安全程序及確保AI行為符合人類意圖的研究。Anthropic將支付費用，雙方計畫五年內各投入至少十億美元，提升相關能力。

但由於測試費用是由Anthropic支付，外界也對評估獨立性產生質疑。Anthropic表示，長期應由各方共同出資或政府提供經費，但因工作迫切，決定先出資。Anthropic也正與METR等非營利機構洽談，由對方自籌經費試辦進駐評估。

AI新創 憂管制後更競爭

不過，美國總統川普、黃仁勳及Meta創辦人查克柏格等人反對增訂管制，主張業者應能自律。Meta和亞馬遜未全盤支持阿莫戴的提議，部分AI新創業者也擔心，管制將使小型業者更難與大型對手競爭。

黃仁勳於CBS訪談中表示，「無論怎麼描述，2030年不會是世界末日。世界終結的機率是零」。他說，他不同意美國總統川普認為AI相關疑慮都是騙局的說法，但也反對所謂AI將在2030年之前消滅人類的末日預言。

黃仁勳說，AI產業不該放慢腳步。他說：「我們應盡可能衝刺，不管別人。但我們絕對不會，也絕對不該，未準備好就推出產品，交出不安全的產品。」

Meta、Anthropic與OpenAI先前也披露過與Irregular相關的類似事件。Meta今年8月表示，相關事件並未涉及突破「沙盒」(sandbox)限制或複雜的網路攻擊；Irregular則指出，目前正致力於制定安全執行AI網路安全評估的最佳實務規範。

隨著AI代理獲得更大的自主權，並能存取網路與電腦系統，這一連串事件引發外界質疑相關業者是否有足夠的安全防護措施。

在類似事件頻傳以及對AI失控的擔憂升溫之際，科技業者正為如何以及何時公開資安漏洞與模型脫序行為陷入兩難。