ChatGPT偽造法庭案例！執業30年律師錯信AI假料、恐面臨停牌懲罰

ChatGPT 偽造案例資料｜自 ChatGPT 在數月前忽然走紅，人工智能就常常予人「無所不能」的感覺，不少人在日常工作中都會利用他來節省寫作時間，但卻忽略了 ChatGPT 資料庫不全的風險 － 為了言之成理地回答用戶的問題，ChatGPT 往往會捏造資訊以符合使用者的要求，而近日一位律師就因此而「中伏」。

律師用 ChatGPT 做資料搜集、不料案例全虛構

Steven Schwartz 為一名執業長達 30 年的律師，日前代表當事人 Roberto Mata 入稟法庭向 Avianca 航空公司索償。據悉 Roberto Mata 在 2019 年於搭乘該公司的航班時，被過道的餐車撞傷。

Avianca 的代表律師在法庭上申請駁回訴訟，這在索賠官司中司空見慣，而為了證明原訴人的訴訟合理性，在一般的民事索償案中，律師都會引用過往曾經成功索償的類似案例；然而 Steven Schwartz 明顯太相信新晉科技 － 他並沒有自行在資料中查找相似案件，而是轉而向 ChatGPT 輸入要求，然後就「搬字過紙」、將 ChatGPT 提供的案例照搬到法庭文件中呈上。

而被告 Avianca 的代表律師團以及紐約法庭之庭審法官在短時間內就發現 Steven Schwartz 提供的案例並不真實，不單影響到其當事人的訴訟案本身，Steven Schwartz 亦需要在下個月進行聽證會，以探討其因為提呈虛假案例而將會受到的制裁。

ChatGPT 再三確認：案例是真的

在稍早前提交到法庭的一份宣誓書中，Steven Schwartz 就他承擔了 ChatGPT 引述錯誤內容的責任並鄭重道歉，Steven 在文中表示在此案件之前，他從未將 ChatGPT 作為法律研究來源使用，因此「不知道其內容可能是虛假的」，而且「非常後悔使用生成式人工智慧來補充此處進行的法律研究，未來將不會在沒有絕對驗證其真實性的情況下這樣做。」

Steven Schwartz 在宣誓書中提到他並非存心欺瞞法庭，以及其真誠地認為以 ChatGPT 進行法律研究為可行，故在宣誓書中亦加入了數張截圖👇👇👇

從截圖中所見， Steven Schwartz 在收到 ChatGPT 的回答內容時明確詢問其中一個案例「是否真確」，而 ChatGPT 的回答亦十分強而有力，再三確定該案例以及其他它提出的案例為真實、而且在「可信的法律數據庫」中查找得到。

Steven Schwartz 目前面臨的懲罰尚未明確，但最嚴重可能是被停牌處分，其故事對於想用人工智能代替自己工作的人們帶來一個明顯警號：沒錯 ChatGPT 是可以很快地根據用戶指引提供答覆，但當牽涉到資料的準確性，ChatGPT 明顯難以依賴，作為用戶在取用這些資料時還是要格外留神。