人工智能技術紅利背后，虛假信息入侵司法程序的風險也悄然浮現(xiàn)。10月28日，澎湃新聞從北京通州區(qū)人民法院獲悉，該院近日審結的一起商事糾紛案件中，暴露出AI生成的虛假案例對司法公正的現(xiàn)實威脅，亟須警惕。

據通州法院民一庭副庭長鄭吉喆法官介紹，這是一起由股權代持引發(fā)的商事糾紛案件。在訴訟中，原告代理人為了進一步佐證其觀點，庭后向法院提交了書面意見，其中援引了名為最高人民法院的某案例及上海一中院的（2022）滬01民終12345號案件。

“從代理意見的描述來看，兩案的事實細節(jié)、法律爭議與裁判邏輯都與審理中的案件高度契合，完美佐證了原告代理人的主張觀點，初看之下極具參考價值。”鄭吉喆說。

出于職業(yè)敏感性，承辦法官經檢索核實發(fā)現(xiàn)，這兩個案號所對應的真實案件事實與代理人書面意見中的描述的情況完全不同。其中，（2022）滬01民終12345號案件其實是一起民間借貸糾紛，與書面意見中描述的事實完全不符，和本案所涉及的事實亦毫無關聯(lián)，沒有任何相似或者可以參照的情節(jié)。

在承辦法官的質詢下，原告代理人終于承認，參考案例是由其提煉本案的事實情節(jié)，后反復向某AI大模型軟件提問，由該軟件生成的參考案例，代理人未進一步核實，而是直接復制粘貼后即提交法院。最終，承辦法官依據法律規(guī)定，結合案件事實對原告代理人的該部分代理意見未予采納。

在判決書中，承辦法官對原告代理人的行為提出批評，要求原告代理人引以為戒，在向法院提交參考案例、法條時，應當進行檢查和核驗，確保內容的真實性和準確性，不得放任人工智能模型生成或者編造虛假信息擾亂司法秩序，一審判決后，雙方均未提出上訴，判決已經生效。

承辦法官結合該案審理經驗及司法實踐規(guī)律，總結了以下三方面識別AI生成的虛假案例特征：一、案號編排存在規(guī)律化痕跡。二、案情描述過度貼合需求場景。三、難以通過檢索方式進行驗證。

“近年來，ChatGPT、DeepSeek等引發(fā)的人工智能浪潮正深刻地改變著人們的工作方式，其強大的語言生成能力在短時間內就能輸出看似專業(yè)、翔實的文本。但在沒有正確引導的情況下，AI極有可能生成誤導性甚至虛假的信息?！背修k法官為此提示，民事訴訟法及司法解釋等對行為人利用AI生成不屬于證據性質的虛假參考案例如何處理尚沒有明確規(guī)定，但AI生成虛假信息對司法秩序帶來的危害值得重視，虛假案例干擾了法院的正常審理流程，審判團隊不得不花費額外的時間和精力對律師提交的案例進行反復查找和甄別核實，一旦AI生成的虛假信息被參照適用，司法公信力將受到質疑。

“法律從業(yè)人員應將AI作為輔助工具，而非替代自身專業(yè)判斷的神器。使用AI時，仍需保持審慎和理性，對AI生成的內容進行嚴格審查，確保信息來源可靠、內容真實準確。”承辦法官表示，人民法院應當加大審查力度，運用技術手段和專業(yè)知識，對當事人及代理人提交的參考案例等資料進行嚴格甄別，確保司法過程中使用的信息真實可靠。