OpenAI推青少年版ChatGPT 高風險對話將通知家長

OpenAI旗下知名聊天機器人ChatGPT今天推出專為青少年打造的新版本,強化安全機制與監管措施。ChatGPT曾被指控促使部分用戶輕生,OpenAI因此遭到批評並面臨法律訴訟。
法新社報導,「青少年版ChatGPT」(ChatGPT forTeens)的設定會自動套用於註冊時標示年齡為13歲至17歲的用戶,以及公司根據使用模式或帳號年齡判定為未成年者的用戶。
青少年版ChatGPT所採用的安全措施,其實大部分已應用於ChatGPT未成年帳號,例如限制關於自我傷害、暴力、飲食失調及露骨性描寫的內容。
OpenAI表示,青少年版ChatGPT也會提出更頻繁的休息提醒、強制暫停使用的「安靜時段」(quiethours),以及用引導式提問取代直接提供答案的學習模式(Study Mode),以協助青少年了解學習內容。
此外,青少年版ChatGPT還會禁止聊天機器人暗示自己對用戶懷抱個人情感,或宣稱自己擁有意識,且語音模式等部分功能會被停用。
家長可以選擇將自己與青少年子女的帳號連結,若系統偵測到涉及自我傷害或輕生等高風險情境的對話,家長將會收到通知。
這些家長通知將由真人審核,聊天紀錄的特定細節也會被移除以保障隱私。
OpenAI推出青少年版ChatGPT之際,正面臨日益增長的法律與監管壓力。
OpenAI現正捲入數起不當致死(wrongful death)訴訟,其中包括16歲青少年芮恩(Adam Raine)父母提出的訴訟;芮恩據稱採用ChatGPT建議的方法自殺。
美國聯邦貿易委員會(FTC)也已針對扮演數位陪伴者角色的人工智慧(AI)聊天機器人展開調查,並聚焦在孩童及青少年可能遭遇的風險方面。
★珍惜生命,若您或身邊的人有心理困擾,可撥打
安心專線:1925|生命線協談專線:1995|張老師專線:1980
延伸閱讀
贊助廣告
udn討論區
- 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
- 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
- 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
- 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。









