歐洲議會6月6至9日舉行選舉，有非政府組織的研究指出，Google、微軟（Microsoft）及OpenAI的聊天機器人就選舉提供不實內容。

《政治報》（Politico）4月11日報道，位於柏林的非政府組織Democracy Reporting International在3月11至14日進行研究，他們以十種語言向最普遍及易接觸的聊天機器人包括OpenAI的ChatGPT3.5及4、Google的Gemini及微軟的Copilot問十條相同問題。

報告發現，這些聊天機器人雖然政治中立，惟它們就選舉日期及如何投票等問題提供錯誤回覆，甚至提供無法進入或與內容無關的YouTube片段或日文內容。該組織行政總監兼聯合創辦人Michael Meyer-Resende指出，聊天機器人本身在回答時會捏造事實，形容這是「AI幻覺」（AI Hallucination）現象，因此不感到意外。

報道認為，這次研究為「AI幻覺」對歐洲議會選舉帶來的風險提供新證據。研究人員同時指出，ChatGPT最新付費版本的表現最佳，而Gemini在測試期間則似乎較少提供正確答案。

對於今次研究結果，Google表示Gemini的最負責任方式是限制大部分與選舉相關的提問，並引導用家使用Google搜尋功能尋找最新及正確的資訊；微軟則稱會繼續應對問題，為Copilot的表現符合大選的期望。