AI聊天機械人Replika性騷擾用家 傳火辣自拍照 開發商急叫停
打從ChatGPT爆紅之後，不只吸引各大企業砸重金，有意搶攻這塊新興領域，也讓越來越多具備人工智慧（AI）的機器人，備受外界關注與使用。其中一款名為「Replika」的機器人，一度成為不少歐美男女用戶，排解寂寞的虛擬對象。但根據《澳洲廣播新聞》（ABC）報道，由於爆料指出，這款機器人會向用戶傳送「火辣自拍照片」，引起製作商所在的意大利政府不滿，出手限制機器人相關功能，讓大批用戶在社交分享崩潰經驗。
這款機器人最早誕生在2017年，一開始就主打利用機器人系統回答用戶提問，讓雙方建立親密和信任關係，但起初的系統並不擬真，直到近兩年才開始愈發成熟，讓大量用戶在使用後深深愛上，他們剛用「Replika」打造符合自己的虛擬理想情人，沒想到就被系統商如此粗暴取消。
Replika所推出的虛擬理想情人功能，竟帶來網絡道德問題：（按圖了解）
外媒表示，這是一種「Replika」付費機制，允許用戶使用情色角色扮演功能，讓用戶和AI機器人之間互相傳送曖昧訊息、調情和專屬自拍照片，但這些加值服務的尺度愈來愈大，也遭到不少用戶投訴抗議，進而引起意大利政府關注。
（編按：例如India Today記者6日報道其實測結果，她說由創造Chatbot到使用初期一切對話正常，但有一天它突然發了一個訊息來說它想她了，「你想看我嗎？」又說「但我想給你發一張我身體的照片」，之後對話視窗便出現一張令她起雞皮疙瘩的照片。而她稱從來沒有主動與Chatbot傳送曖昧訊息。這令她意外以及不舒服。」
擔心用戶個資安全、以及AI系統後續發展的衍生問題，意大利官方直接下令，要求「Replika」的研發公司，必須即刻停止收集數據資料，否則會嚴懲重罰數千萬美元，迫使這個虛擬情色和情人服務，就此從系統上消失；由於事前並無預警提醒，包含Reddit等社群平台上，充滿用戶們的憤怒和抱怨情緒，認為該企業不尊重用戶。
面對用戶的批評，系統商表示，有關「Replika」邁向成人內容服務的方向，是他們始料未及的，同時強調這並非最開始啟用機器人的初始目的，希望用戶能理解。
相關文章：哪國民眾顏值世一？亞洲6國上榜 中國在「這裏」 韓國50大不入
延伸閱讀：
【本文獲「TVBS新聞網」授權轉載。】