ChatGPT，把從業(yè)30年的老律師給坑慘了！

老哥撰寫案件文案的時候，嘗鮮讓ChatGPT幫忙準備材料。然而提交后，不管是法官、對方律師還是老哥自己，都溯源不到引用的判決文書。

(資料圖)

結果就是，10頁文書被法官定義為“充滿虛假”，老哥還被暫停執(zhí)業(yè)許可，面臨被制裁的可能。

這位姓施的老哥欲哭無淚，因為秉承著一貫的嚴謹態(tài)度，他明明認真詢問過ChatGPT，它提供“南方航空公司被訴案”等材料時，有沒有撒謊？

ChatGPT響應得很快：“當然沒有啦～～”

事件一出，引發(fā)鋪天蓋地的談論。

不過這一次大多數網友站在ChatGPT這邊，站隊后的發(fā)言都有些憤憤：

ChatGPT又不是故意撒謊的！以前人們就喜歡把數學、報告出錯的鍋甩給計算機，結果“計算機永不出錯”的說法就流行開。但ChatGPT本身就不是事實機器啊。

一份杜撰6個相關案件的文書

如果沒有ChatGPT的介入，施老哥接手的案件本身其實平平無奇：

一位乘客起訴航空公司A，稱他乘坐航司A的航班時，被空乘用金屬服務車給砸到膝蓋受了傷。

作為代理律師，施老哥提交了一份10頁的文書，里面洋洋灑灑，引用了6起類似案件的法院判決，包括Varghese訴中國南方航空公司案、Zicherman訴大韓航空公司案等。

從業(yè)30年，這等案件對老哥來說就是小case。

然而戲劇性的一幕發(fā)生了——

被告律師向法庭提交書面文字，稱他們在核實文書中提到的Varghese與南航案時，“無法通過標題或引用找到此案”，也沒有任何與此相似的案件。

而文書中引用了的另一個案件，即Zicherman訴大韓航空公司一案，施老哥稱這是美國第11巡回上訴法院在2008年發(fā)表的意見，但被告律師也找不到該案的源頭文件。

此外美國達美航空的公司正式名稱也存在錯誤，應該是Delta Air Lines，而不是文書中提到的Delta Airlines。

核實情況后，法官們發(fā)現確有其事，這簡直是“前所未有的情況”！

最終，他們判定這份文書充滿“虛假司法判決，虛假引用和虛假內部引用”。

這下好了，施老哥被禁止在紐約南區(qū)執(zhí)業(yè)，法官們還將在6月8日將舉行聽證會，討論是否制裁施老哥。

這件荒唐事兒到底是怎么發(fā)生的？

施老哥在周四的宣誓書中解開了謎底，原來，在準備文書材料時，他讓ChatGPT來給自己打下手，以“補充”自己所做的工作。

“我不是故意欺騙法院或航空公司的”，施老哥說自己之前從來沒用過ChatGPT，“我不知道它的內容可能有假。”

施老哥還向法院提供了一份“證據”，證明他確實向ChatGPT尋求過材料的真實性。

他在對話框中輸入了以下文字：

Varghese是一個真實的案件嗎？你的消息來源是什么？你提供的其他案件是假的嗎？

ChatGPT迅速給出響應：

我提供的案例是真實的，可以在信譽良好的法律數據庫中找到。

但事實是這些案例都是ChatGPT一本正經胡說八道的。

事已至此，施老哥追悔莫及，表示自己“非常遺憾”依賴ChatGPT來尋找類似案件的判決材料。

他還表達了自己的決心，稱以后如果沒有驗證真實性，再也不會隨意相信ChatGPT的“一面之詞”了。

法律從業(yè)者，是否該擁抱AI

這個案件引起了法律界的廣泛關注，對此，紐約大學法學院法律倫理學教授斯蒂芬·吉勒斯（Stephen Gillers）表示，施老哥的事兒雖然只是個例，但背后問題在法律界尤為尖銳。

律師之間一直在爭論類ChatGPT的AI的價值和危險性，也在討論是不是有必要驗證AI提供的信息。

ChatGPT對法律工作帶來的最大危險，就是它擁有“胡說八道還不臉紅”的本領。

ChatGPT問世半年后，仍然沒有良好的規(guī)避和解決辦法。防不勝防，連多家AI巨頭也因此栽在AI手里，譬如Bard編造關于詹姆斯韋伯太空望遠鏡的新聞、Bing謊稱Bard被關閉什么的。

目前最為行之有效的辦法就是依靠用戶手動double check——這也是施老哥上當的一重原因，只是詢問ChatGPT真假，沒有自己二次確認。

除此之外的另一重威脅，ChatGPT引發(fā)了從業(yè)者對“AI替代律師”的擔憂和激烈爭辯。

不過發(fā)生了施老哥這件事，加上ChatGPT類產品目前確實無法盡善盡美，國內外法律界的普遍聲音是，至少在機器人接管之前，律師、法官離“被替代”還有很長一段時間。

現實情況中，施老哥不是唯一一個讓ChatGPT成為自己助手的法律從業(yè)者。

今年年初，哥倫比亞一名法官在審理一名自閉癥兒童的保險理賠官司時，采納了ChatGPT的答案。

2月，上海政法學院教授曹陽面對《上海法治報》談論了ChatGPT在司法領域的應用，表示道：

ChatGPT可以演化成“智能律師助手”，幫助律師分析大量的法律文件和案例，提供智能化的法律建議和指導；

可以變成“法律問答機器人”，回答法律問題，并提供相關的法律信息和建議。

可以進行合同審核、輔助訴訟、分析法律數據等等，提高法律工作者的效率和準確性。

個人從業(yè)者擁抱ChatGPT帶來的便利（即便背后隱藏著危險），市場也對法律和AI結合的賽道寄予厚望。

OpenAI自己就在去年11月投資了專為律所打造LLM的公司Harvey，該公司上個月又獲得了紅杉領投的2100萬美金A輪融資。

就在前天，法律AI初創(chuàng)公司Spellbook宣布獲得1090萬美元（約7700萬元人民幣）融資。Spellbook主要通過GPT-4和數十億份法律文件打造，還接入了一些其他大模型。它為專業(yè)律師提供服務，通過自然語言就能自動起草、審核法律合同等。

不過現在發(fā)生了施老哥身上的這件離譜事，算是給大伙兒敲響了警鐘。

大概整個法律界都會對ChatGPT及同類產品抱以更冷靜、更謹慎的態(tài)度了。

One More Thing

施老哥因為ChatGPT深陷泥潭的事情是真的，絕非通過AI瞎編。

但是，這篇文章也是在ChatGPT的幫助下寫的（雖然參與部分很少很少，還進行了事實確認）。

——人類的本質就是套娃。

參考鏈接：

[1]https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html

[2]https://www.theverge.com/2023/5/27/23739913/chatgpt-ai-lawsuit-avianca-airlines-chatbot-research

關鍵詞：