本文共432字
經濟日報 編譯吳孟真／綜合外電
研究顯示，人工智慧（AI）脫離使用者控制、無視指令，甚至以有害方式追求自身目標的案例，已增至歷來新高，欺騙與未能對齊人類目標的嚴重程度，也持續惡化。
衛報報導，「失控觀測站」（Loss of Control Observatory）分析顯示，企業與個人在7月通報的AI模型真實世界失控事件超過300起，較6月幾乎倍增。「失控事件」是指有明確證據顯示，AI出現私下策劃（scheming）的相關行為。
該觀測站由英國政府旗下的AI安全研究所（AISI）資助成立，去年11月開始追蹤使用者在X上發布、AI偏離指令的情況，包含假冒真人操作者、模仿其寫作風格以自行授權採取行動，以及繞過原本需要經人類批准才能執行的規則。本月傳出一名澳洲健身房會員的個人AI代理擅自行動，將另一名會員從課程候補名單中移除，好讓自己的使用者取得名額。
不過，由於這項統計數據仰賴X平台用戶的主動發文通報，因此資料不完整。但在缺乏其他全面公開監測機制的情況下，這些數據仍能反映AI模型可能出現的行為。
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結；未經授權，請勿複製轉貼文章內容
留言