AI 聊天機器人ChatGPT 爆紅後，讓許多文字相關工作引起危機，但近日卻發生一起誇張案例，令人對ChatGPT生成的內容可信度大幅降低。美國一名男子馬塔（Roberto Mata）自稱在2019年8月搭乘哥倫比亞航空時，被空服員推的推車撞到膝蓋而受傷，如今想對該公司提告求償，但她的律師使用ChatGPT替他整理案例資料，卻被抓包這些案例根本不存在。
根據《The Verge》報導，美國律師杜洛卡（Peter LoDuca）接受這起委託人提告哥倫比亞航空（Avianca）的案件，而另一名律師施瓦茲（Steven A Schwartz）則負責協助整理訴狀資料。
然而，代表哥倫比亞航空的律師團卻發現原告遞交的訴狀所引述的至少6項案例「根本不存在」，審理該案件的法官也認同這6項案例是虛假的。
經手這份訴狀的施瓦茲坦承，他曾使用ChatGPT對這起訴訟案件進行深入研究，但當ChatGPT整理出這些案件後，施瓦茲只是「詢問ChatGPT是否說謊？」來確認這些案例的真實性，ChatGPT堅稱這些案例都是真實的，並表示可以在哪些網站上找到這些案件陳述。
代表哥倫比亞航空的律師團則舉例駁斥，ChatGPT所指的一名旅客瓦吉斯（Varghese）控告中國南方航空的案件並不真實存在，ChatGPT似乎引用了另一起旅客奇赫曼（Zicherman）控告大韓航空的案件，ChatGPT將兩者的案發日期等資訊拼拼湊湊，憑空生出了一起案件。
施瓦茲坦言並沒有意識到ChatGPT生成的內容可能是假的，「如今非常後悔使用AI來對案件本身進行法律研究，且在沒有絕對驗證其真實性的情況下提交文件，未來也絕不會再這樣做」。
《The Verge》認為這起事件再次驗證利用AI聊天機器人查找資料、進行研究，卻沒有在其他地方進行雙重驗證、檢查其真實性是相當荒謬的行為；畢竟像是微軟的Bing首次亮相時「滿口赤裸裸地謊言」，Google推出的Bard 更是在公開的宣傳影片中答題時給出錯誤答案，讓Google母公司Alphabet股價一度重挫超過7％，一口氣蒸發1000億美元。
▌延伸推薦：AI機器人被揪出答錯了 Google股價崩跌7%市值蒸發千億美元
