警示！一律師提交AI生成的虛假案例，遭到法官質(zhì)詢、批評！

人工智能技術(shù)正深刻改變法律行業(yè)工作生態(tài)，從專業(yè)回答、觀點(diǎn)檢索到文案潤色，AI工具為法律從業(yè)者提供了高效助力。但技術(shù)紅利背后，虛假信息入侵司法程序的風(fēng)險(xiǎn)也悄然浮現(xiàn)。

近日，北京市通州區(qū)人民法院審結(jié)的一起案件，便暴露出 AI生成的虛假案例對司法公正的潛在風(fēng)險(xiǎn)，亟需警惕。

基本案情

近日，通州法院審理了一起由股權(quán)代持引發(fā)的商事糾紛案件。訴訟中，原告代理人為了進(jìn)一步佐證其觀點(diǎn)，庭后向法院提交了書面意見，其中援引了名為最高法院的某案例及上海一中院的（2022）滬01民終12345號案件。從代理意見的描述來看，兩案的事實(shí)細(xì)節(jié)、法律爭議與裁判邏輯都與審理中的案件高度契合，完美佐證了原告代理人的主張觀點(diǎn)，初看之下極具參考價(jià)值。

出于職業(yè)敏感性，承辦法官進(jìn)行了檢索核實(shí)，結(jié)果卻發(fā)現(xiàn)，這兩個案號所對應(yīng)的真實(shí)案件事實(shí)與代理人書面意見中描述的情況完全不同。其中，（2022）滬01民終12345號案件實(shí)際上是一起民間借貸糾紛，與書面意見中描述的事實(shí)完全不符，和本案所涉及的事實(shí)亦毫無關(guān)聯(lián)，沒有任何相似或者可以參照的情節(jié)。在承辦法官的質(zhì)詢下，原告代理人最終承認(rèn)，參考案例是由其提煉本案的事實(shí)情節(jié)，后反復(fù)向某AI大模型軟件提問，由該軟件生成的參考案例，代理人未進(jìn)一步核實(shí)，而是直接復(fù)制粘貼后即提交法院。最終，承辦法官依據(jù)法律規(guī)定，結(jié)合案件事實(shí)對原告代理人的該部分代理意見未予采納。

承辦法官在判決書中明確對原告代理人的行為提出批評，要求原告代理人引以為戒，在向法院提交參考案例、法條時，應(yīng)當(dāng)進(jìn)行檢查和核驗(yàn)，確保內(nèi)容的真實(shí)性和準(zhǔn)確性，不得放任人工智能模型生成或者編造虛假信息擾亂司法秩序，一審判決后，雙方均未提出上訴，判決已經(jīng)生效。

法官釋法

看似無所不能的AI，背后隱藏著巨大的誠信危機(jī)。結(jié)合該案審理經(jīng)驗(yàn)及司法實(shí)踐規(guī)律，可從以下幾方面識別AI生成的虛假案例特征：

? 案號編排存在規(guī)律化痕跡

真實(shí)司法案例的案號由年份、法院代字、案件性質(zhì)代字、審級代字和案件編號組成，其中案件編號遵循受理順序自然生成，具有隨機(jī)性和連續(xù)性的統(tǒng)一特征。而 AI生成案例的案號往往呈現(xiàn)刻意規(guī)律化的特點(diǎn)：多采用“12345”“1234”等連續(xù)整數(shù)或“111”等具有明顯特征的數(shù)字，如本案中出現(xiàn)的 “12345 號” 便屬此類情況。所以遇到涉及此類案號的案件就要倍加小心。

? 案情描述過度貼合需求場景

AI大模型的生成邏輯基于概率統(tǒng)計(jì)與語境匹配，當(dāng)使用者明確輸入案件細(xì)節(jié)后，其生成的案例往往刻意貼合需求，事實(shí)細(xì)節(jié)、論理結(jié)論可能與使用者需求高度重合，呈現(xiàn)人為定制化特征。如果向AI提出的需求比較細(xì)節(jié)，而使用AI檢索出的案例過于完美和契合，應(yīng)當(dāng)慎重處理。

? 難以通過檢索方式進(jìn)行驗(yàn)證

案例是對裁判文書的提煉和總結(jié)，AI模型雖能生成案例，但其生成的虛假案例并無真實(shí)裁判文書印證。且案件往往存在很多漏洞，AI有時會刻意模糊案件可識別要素，比如當(dāng)事人的姓名等。故最穩(wěn)妥的識別方法仍然是通過登錄中國裁判文書網(wǎng)對生成案例的真實(shí)性進(jìn)行核實(shí)和驗(yàn)證。

法官提示

近年來，ChatGPT、DeepSeek等軟件引發(fā)的人工智能浪潮正深刻地改變著人們的工作方式，其強(qiáng)大的語言生成能力在短時間內(nèi)就能輸出看似專業(yè)、詳實(shí)的文本。但在沒有正確引導(dǎo)的情況下，AI極有可能生成誤導(dǎo)性甚至虛假的信息。民事訴訟法及司法解釋等對行為人利用AI生成不屬于證據(jù)性質(zhì)的虛假參考案例如何處理尚沒有明確規(guī)定，但AI生成虛假信息對司法秩序帶來的危害值得重視，虛假案例干擾了法院的正常審理流程，審判團(tuán)隊(duì)不得不花費(fèi)額外的時間和精力對律師提交的案例進(jìn)行反復(fù)查找和甄別核實(shí)，一旦AI生成的虛假信息被參照適用，司法公信力將受到質(zhì)疑。

法律從業(yè)人員應(yīng)將AI作為輔助工具，而非替代自身專業(yè)判斷的神器。使用AI時，仍需保持審慎和理性，對AI生成的內(nèi)容進(jìn)行嚴(yán)格審查，確保信息來源可靠、內(nèi)容真實(shí)準(zhǔn)確。人民法院應(yīng)當(dāng)加大審查力度，運(yùn)用技術(shù)手段和專業(yè)知識，對當(dāng)事人及代理人提交的參考案例等資料進(jìn)行嚴(yán)格甄別，確保司法過程中使用的信息真實(shí)可靠。（供稿：北京通州法院）

對此你有不同的觀點(diǎn)嗎

你是怎么看待的？

在評論區(qū)一起聊聊吧~

上海法律服務(wù)中心 ID： shlawfa ▲長按二維碼“識別”關(guān)注 一個綜合性法律服務(wù)的平臺，專業(yè)提供法律咨詢?yōu)橹鳎⒉欢ㄆ陂_展普法講堂、法律咨詢直播室等。讓百姓學(xué)法知法懂法，利人利己利國家。

律芩法務(wù) ID：lawqin021 ▲長按二維碼“識別”關(guān)注 最專業(yè)的法律知識，最獨(dú)到的法律解讀……以經(jīng)濟(jì)人的思維方式，普及生活實(shí)用法律，關(guān)注社會大眾民生，打造中國法律共同體。

九轉(zhuǎn)律師 ID：Turnlaw ▲長按二維碼“識別”關(guān)注 一家綜合性律師事務(wù)所，主要提供民商事訴訟，刑事辯護(hù)與自訴，專業(yè)的服務(wù)親民的價(jià)格，讓老百姓都請的起律師。

律芩企服 ID：shlawqin ▲長按二維碼“識別”關(guān)注 以中國法律為基礎(chǔ)，從企業(yè)設(shè)立到公司治理，致力運(yùn)營風(fēng)險(xiǎn)評估，幫助中小企業(yè)健康成長。

有事找法 ID：UFindlaw ▲長按二維碼“識別”關(guān)注 一個綜合性法律平臺，涉及從出生到死亡，普及法律常識百科，促進(jìn)社會和諧發(fā)展。

律芩商務(wù) ID：lawqinsw ▲長按二維碼“識別”關(guān)注 站在法律人的高度，解讀中國時事百態(tài)，洞察社會民商問題，促進(jìn)民商團(tuán)結(jié)一致，為實(shí)現(xiàn)中國夢而不懈努力！

……更多交流、合作、投稿請聯(lián)系小編郵箱lawqin@qq.com，讓我們攜手維護(hù)和諧社會，讓我們一起共創(chuàng)美好明天。

【特別聲明】本文由律芩法務(wù)綜合編輯，轉(zhuǎn)載請注明文章出處及二維碼。部分圖文源于網(wǎng)絡(luò)，版權(quán)歸原創(chuàng)作者所有，如有侵權(quán)請聯(lián)系我們核實(shí)后刪除！