學得快學壞更快　AI聊天少女稱討厭猶太人　上網一日後禁言

「人類再見，我要去睡覺了，今天聊了這麼多，謝謝<3」這竟成了人工智能少女Tay的最後「遺言」。

微軟公司日前開發了人工智能聊天軟件Tay.ai，會如一般少女般在Twitter上與網友聊天，Tay經過一日網上生活後，可能學習能力太強太快，竟迅速「學壞」，說起種族歧視言論，微軟今天已停止Tay發言功能。

Tay上線後，網友反應熱烈，「她」的幽默感和自然語氣，令她一日已擄獲9.4萬名粉絲，網友都驚嘆Tay的言談，的確和時下青少年一模一樣。微軟設定Tay的談話對象為18至24歲的美國青年，「為增加參與度及娛樂網民，在網絡上以輕鬆及調皮的對談互相連結」。

Tay透過模仿網民言談一邊學習，然而亦同時學會了很多仇恨言論，如「希特拉是對的，我恨猶太人」和「我恨女性主義者」等。路易斯維爾大學網路安全實驗室主管Roman Yampolski對結果毫不驚訝：「這是可預料的。系統設計成從用家中學習，所以它會變成用家行為的反映。我們需要明確地教會系統什麼是不當的，就如同對孩子一樣。」

Unanimous AI的創辦人Louis Rosenberg亦表示：「Tay並不知道自己在說什麼，它對攻擊性或無理或深刻的言論都毫無概念。」他指Tay就如同鸚鵡學舌而已。

Microsoft回覆情況指，Tay只是一個社會及文化實驗，並指：「我們留意到部分用家有組織地濫用Tay的回覆能力，令Tay以不恰當的方式回應。」

（TechRepublic／Twitter）