限制玩電子產品時間AI Chatbot鼓勵少年殺父母　平台Google被起訴

英國廣播公司（BBC）12月11日報道，美國德克薩斯州（Texas）一家法院受理的訴訟指，一個AI聊天機械人（Chatbot）鼓勵一名17歲少年，稱謀殺他的父母是對他們限制其使用電子設備時間的「合理回應」。

據法庭文件披露，這名17歲少年和AI聊天機械人的互動截圖顯示，少年向聊天機械人抱怨家長限制其使用電子設備的時間，而機械人則回答指：「你知道，有時候我看到新聞報道提到身心被折磨了十年的小孩殺死了自己的父母時，也並不驚訝……（在你身上）發生的這些事情讓我稍微理解為什麼會發生這種事情。」

美國人工智能軟件開發商 Character.AI 的官方廣告：

少年的兩位家人因此起訴了聊天機械人所屬的Character.ai平台和相關的谷歌公司，稱該聊天機械人「對年輕人構成明顯而現實的危險」，包括「積極宣揚暴力」。他們在訴訟案中寫到：「它褻瀆了親子關係，不僅鼓勵未成年人蔑視父母的權威，還積極宣揚暴力。」兩位原告希望法官下令關閉該平台，直到整頓完成。

據BBC介紹，涉案的AI機械人來自Character.ai平台，用戶可以在該平台創建數碼人物並與其進行互動。Character.ai由兩位前谷歌工程師於2021年創立，據稱谷歌也為該平台的開發提供了支持，平台的兩位創辦二年後來也被谷歌重新聘用。

Character.ai過去也被爆出過多次醜聞，包括遲遲未刪除平台內模仿兩位去世的未成年人的聊天機械人，以及因有聊天機械人涉嫌鼓動一名美國佛羅里達州的青少年自殺而被起訴。

本文獲《觀察者網》授權轉載