FB訓練一對聊天機械人談判　AI系統竟「失控」自創語言嚇壞人類？

Bob︰「我可以我我所有其他東西。」
Alice︰「球有零個給我給我給我給我給我給我給我給我給。」
對於你和我，以上對話尤如外星語言；但對於Bob與Alice來說，則是非常有效的談判語言。「他們」並不是人類，而是facebook所發展的人工智能（AI）聊天機械人（chatbot）。當facebook訓練他們學習談判時，竟發現他們創造了人類看不懂的語言，facebook因而關掉了系統。這不禁令人聯想起Tesla創辦人馬斯克的警告︰「發展人工智能形同召喚惡魔。」但facebook的聊天機械人真的失控了嗎？

facebook近日正在訓練其聊天機械人Bob與Alice學習談判，其中一個練習，是要他們談判如何分享有限數目的書本、帽子、籃球。談判過程中，Bob與Alice是以英文對談，但竟發展出不符合英文語法、人類難以明白的英文句子。這並非因為AI失控了，而是因為研究人員在撰寫程式時出了一點錯誤。

什麼錯誤？「AI系統沒有設置對遵守英文語法的獎勵。」facebook人工智能研究團隊（FAIR）的科學家巴特拉（Dhruv Batra）一語道破了嚇人的現象背後的主要原因。即是說，研究人員並沒有為兩個AI聊天機械人提供任何誘因，驅使他們以人類的方式說話。於是他們開始偏離語法，將詞語組成看似沒意義的句子。

「AI機械人會漸漸偏離可明白的語言，然後自己發明一些代碼。舉例，如果我說了『這個』5次，你會詮釋我的意思為我想要這個物件的5件複製品。這跟不同的人發明速記的方法分別不大。」

事實上，人類由買賣交易到運動競技、以至打仗行軍，都會發展出獨一無二的「語言」，因為有時不遵從語言規則可令溝通更有效－－到茶餐廳點杯凍檸茶，侍應會在帳單上寫上「0T」，這些獨特的語言在生活上隨處可見。

▲ facebook訓練AI聊天機械人學習談判的其中一個方法，是要他們分享有限數目的物件，而他們各自的系統中已設定不同的目標。

因此，facebook關掉了AI系統，停止Alice與Bob的對話，不是因為他們「失控」了，而是因為人類根本難以明白他們的說話。「我們的興趣，是發展出可以與人類交談的聊天機械人。」FAIR另一名科學家路易斯（Mike Lewis）說。

現有的聊天機械人能夠與人類作出簡短交談，以及在接收人類指令後完成簡單任務。但要讓聊天機械人能夠與人類作出有意義的交談，仍然相當具挑戰性，因為這需要讓機械人以它對世界的知識去明白人類的意思，再產生新的句子去達到自己的目標。

為了達成這個目標，令聊天機械人不再只是「模仿」人類的一字一句，而是活像一個人類般說話，facebook於6月已公布，他們的AI研究員正在訓練聊天機械人學習談判。

Tesla及SpaceX創辦人馬斯克一直對發展AI保持非常謹慎的態度，他最近甚至說AI是人類文明最大威脅，甚至可以觸發戰爭。facebook創辦人朱克伯格則對AI較樂觀，他於7月底接受訪問時，被問到對馬斯克對AI的說法有何看法，他表示︰「我對此有頗強烈的意見。我是樂觀的。我真的不明白那些拒絕AI並嘗試激起世界末日情境想像的人，這是很負面的，某程度我認為也頗不負責任。」馬斯克其後在Twitter還擊，寫道︰「我跟Mark（朱克伯格）談過。他對這個題目（AI）的理解很有限。」

（綜合報道）

其他精選國際新聞：