法庭上，原告出示了一份由AI生成的證據(jù)……

日前，上海市寶山區(qū)人民法院審理了一起裝飾裝修合同糾紛案。期間，原告提交了一份由生成式人工智能回答的內(nèi)容作為證據(jù)，要求法院支持其訴請(qǐng)，最終未被采納。

近兩年，越來(lái)越多人開(kāi)始習(xí)慣“遇事不決問(wèn)AI”，將AI的回答視作標(biāo)準(zhǔn)答案。這起案例則再次證明，目前AI終究只是輔助工具，盲目相信并不可取。

AI的回答能作為有效證據(jù)嗎

2021年6月，譚先生一家和某實(shí)業(yè)公司簽訂《選裝定制合同》，加購(gòu)包含地暖系統(tǒng)的“裝修包”。房屋交付后，譚先生發(fā)現(xiàn)，地暖在首個(gè)供暖期內(nèi)疑似出現(xiàn)無(wú)法正常制熱的情況。

譚先生認(rèn)為，房屋面積為140平方米，地暖無(wú)法正常制熱是因?yàn)閷?shí)業(yè)公司配置的地暖產(chǎn)品功率不足，故訴至寶山法院，請(qǐng)求判令實(shí)業(yè)公司賠償損失1萬(wàn)元。

實(shí)業(yè)公司辯稱，其已全面履行合同義務(wù)，提供的涉案地暖系統(tǒng)經(jīng)驗(yàn)收合格，能夠正常運(yùn)行且溫度符合國(guó)家標(biāo)準(zhǔn)。譚先生未能提供有效證據(jù)證明設(shè)備存在質(zhì)量故障或運(yùn)行溫度不達(dá)標(biāo)。產(chǎn)品的輸出功率完全滿足房屋供暖需求。

寶山法院經(jīng)審理認(rèn)為，本案的核心爭(zhēng)議在于，譚先生主張的“地暖產(chǎn)品功率不足導(dǎo)致制熱不達(dá)標(biāo)”這一事實(shí)是否成立。

實(shí)業(yè)公司提供了報(bào)告等證據(jù)，表明其提供的地暖確經(jīng)驗(yàn)收合格，且選用的某型號(hào)鍋爐最大額定供暖輸出功率大于室內(nèi)需求熱負(fù)荷。

譚先生則向法院提交了一份由AI作出的回答內(nèi)容作為被告違約的證據(jù)。內(nèi)容顯示，譚先生向AI提問(wèn)：“某型號(hào)鍋爐適合多少面積？”AI參考了網(wǎng)購(gòu)參數(shù)、營(yíng)銷號(hào)信息、產(chǎn)品介紹等內(nèi)容后作出回復(fù)：“該型號(hào)鍋爐供暖面積適用于80-120平方米住宅。”

不同AI給出的答案不同

“AIGC作為新類型的生成內(nèi)容，其審查認(rèn)證仍遵循民事訴訟法等相關(guān)法律法規(guī)確定的原則規(guī)則?！睂毶椒ㄔ好袷聦徟型シü脔U海躍指出，僅憑單一、來(lái)源不明的AI回復(fù)，缺乏其他權(quán)威證據(jù)佐證，無(wú)法單獨(dú)作為認(rèn)定案件事實(shí)的依據(jù)。

經(jīng)法院核驗(yàn)，譚先生提供的AI回復(fù)，所引用資料主要來(lái)自網(wǎng)絡(luò)營(yíng)銷信息、產(chǎn)品介紹等，參考依據(jù)缺乏行業(yè)規(guī)范、國(guó)家標(biāo)準(zhǔn)等權(quán)威信息。法官還當(dāng)庭使用另外兩款生成式AI工具就同一問(wèn)題進(jìn)行提問(wèn)，得到的回答與譚先生并不一致?？梢?jiàn)，不同AI工具因其算法、訓(xùn)練數(shù)據(jù)和檢索來(lái)源不同，可能生成差異化的結(jié)果。

基于此，寶山法院認(rèn)定譚先生提交的單一AI生成內(nèi)容，其客觀性、權(quán)威性及證明力均不足，依法不予采信。譚先生未能提供充分、有效的證據(jù)證明涉案地暖產(chǎn)品存在功率不足的質(zhì)量缺陷，也未能證明供暖溫度不達(dá)標(biāo)，應(yīng)承擔(dān)舉證不能的不利后果，遂判決駁回其訴訟請(qǐng)求。

鮑海躍強(qiáng)調(diào)，在訴訟活動(dòng)中，網(wǎng)絡(luò)檢索信息、商業(yè)廣告頁(yè)面以及生成式AI的即時(shí)回復(fù)，其性質(zhì)多屬于參考信息或觀點(diǎn)，不能直接等同于具有法律證明效力的證據(jù)?！坝绕涫巧婕皩I(yè)問(wèn)題的爭(zhēng)議時(shí)，應(yīng)優(yōu)先依靠合同文本、國(guó)家標(biāo)準(zhǔn)、專業(yè)鑒定意見(jiàn)等法定證據(jù)形式，或?qū)W(wǎng)絡(luò)信息、AI結(jié)論進(jìn)行嚴(yán)格溯源和補(bǔ)強(qiáng)。”

破除對(duì)AI的迷信是關(guān)鍵

記者了解到，像這樣將AI生成內(nèi)容作為證據(jù)提交的案例，在上海已發(fā)生多起。

雖然法院在審理時(shí)會(huì)采取多種方式進(jìn)行再次核實(shí)，比如本案中法官就主動(dòng)運(yùn)用不同AI工具進(jìn)行交叉驗(yàn)證，但AI對(duì)司法造成的干擾也是顯而易見(jiàn)。

一方面，AI生成的內(nèi)容在形式上看起來(lái)非常逼真，需要消耗法官更多精力去識(shí)別，會(huì)顯著增加司法成本。另一方面，上海多位法官表示，當(dāng)司法判決結(jié)果與AI給出的答案不同時(shí)，很多敗訴的當(dāng)事人會(huì)選擇相信AI，對(duì)司法公信力產(chǎn)生不信任。

要解決這些問(wèn)題，關(guān)鍵是要認(rèn)清AI只是一款輔助工具，破除對(duì)AI的迷信心理。

事實(shí)上，AI提供的答案本質(zhì)上是參考網(wǎng)絡(luò)上存在的各種資料，再根據(jù)各自的生成邏輯、算法原理整合而成。這個(gè)過(guò)程中，參考資料是否足夠權(quán)威準(zhǔn)確、不同觀點(diǎn)的資料權(quán)重如何分配等等，都會(huì)直接影響AI生成的結(jié)果。今年3·15晚會(huì)上，就曝光了“AI投毒”亂象，可以通過(guò)人為重復(fù)發(fā)布某些內(nèi)容，來(lái)干擾AI的回答。

更有甚者，有些時(shí)候人工智能在被反復(fù)提問(wèn)后，會(huì)揣摩提問(wèn)者的意圖，迎合其需求，給出心中想要的答案。在這種情況下，答案真的還能保持客觀公正嗎，就得打上一個(gè)大大的問(wèn)號(hào)了。

原標(biāo)題：《法庭上，原告出示了一份由AI生成的證據(jù)......》

欄目主編：王海燕 題圖來(lái)源：上觀題圖 圖片編輯：邵競(jìng)

來(lái)源：作者：解放日?qǐng)?bào) 王閑樂(lè)