馬愷濃律師：AI“投毒”防范有路徑 商家 服務(wù)商及平臺責(zé)任明晰

3月15日晚，央視3·15晚會曝光AI大模型“投毒”黑產(chǎn)亂象，揭開了不法分子利用GEO（生成式引擎優(yōu)化）技術(shù)操控AI輸出虛假信息的灰色鏈條。

央視315晚會的調(diào)查記者通過多日暗訪，揭開了AI大模型“投毒”的完整灰色產(chǎn)業(yè)鏈。這場“投毒”不是簡單的信息篡改，而是一套系統(tǒng)化、規(guī)?；牟僮?，核心主角是一群號稱能“馴服AI”的GEO服務(wù)商，他們打著“優(yōu)化推廣”的幌子，幫商家向豆包、元寶、千問、KIMI、deepseek、文心等AI大模型定向“投喂”虛假信息，實(shí)現(xiàn)“操控AI答案”的目的，而這一切，只需要支付相應(yīng)的費(fèi)用。

晚會暗訪顯示，涉事GEO服務(wù)商可在短時(shí)間內(nèi)生成虛假內(nèi)容，批量發(fā)布至網(wǎng)絡(luò)，誘導(dǎo)AI抓取后優(yōu)先推薦，甚至讓虛構(gòu)產(chǎn)品登上AI推薦榜前三。此類行為已覆蓋多款主流AI產(chǎn)品，威脅數(shù)億用戶，可能誤導(dǎo)消費(fèi)決策、傳播虛假醫(yī)療和金融信息。

在此背景下，數(shù)字經(jīng)濟(jì)智庫網(wǎng)經(jīng)社電子商務(wù)研究中心邀請了行業(yè)權(quán)威人士進(jìn)行解讀，并發(fā)布《央視315曝光AI大模型被惡意“投毒”——網(wǎng)經(jīng)社智庫專家獨(dú)家解讀報(bào)告》。

對此，浙江省律師協(xié)會競爭法專業(yè)委員會委員、網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員馬愷濃接受數(shù)字經(jīng)濟(jì)新媒體&智庫——#網(wǎng)經(jīng)社 獨(dú)家專訪。

之所以能如此快速、高效就完成了幾個(gè)大模型的“優(yōu)化”，是因?yàn)锳I自動生成的批量化、傳播分發(fā)的急速化廣泛化，以及被大模型獲取的速度化便捷化。在這種情況下，如果AI獲取到的大量數(shù)據(jù)都是虛假的偽造的，那么得出的結(jié)論必然也是假的，是不可信的。

如何防范、杜絕這種AI“投毒”方式的？可通過清理數(shù)據(jù)庫，依法對人工智能生成合成的內(nèi)容進(jìn)行標(biāo)識，以避免被大模型獲取，或者大模型在獲取后可通過標(biāo)識予以剔除，使得AI實(shí)際分析使用到的數(shù)據(jù)均為有效數(shù)據(jù)，讓數(shù)據(jù)庫重新變得清朗干凈。

商家使用該服務(wù)的本質(zhì)是虛假宣傳，可能引發(fā)的問題包括但不限于對被宣傳產(chǎn)品或服務(wù)產(chǎn)生引人誤解的虛假宣傳、對商業(yè)對手方的商譽(yù)詆毀等，GEO服務(wù)商作為該類服務(wù)提供者，應(yīng)承擔(dān)幫助侵權(quán)的法律責(zé)任。根據(jù)《中華人民共和國民法典》第一千一百六十九條，幫助他人實(shí)施侵權(quán)行為的，應(yīng)當(dāng)與行為人承擔(dān)連帶責(zé)任。

平臺方面，如果人工智能生成合成內(nèi)容（指利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息）未按規(guī)定添加標(biāo)識，AI大模型平臺無法通過技術(shù)手段對其進(jìn)行識別，而被AI大模型獲取分析應(yīng)用，進(jìn)而輸出虛假信息，則大模型平臺不承擔(dān)責(zé)任，因其無法得知該內(nèi)容為人工智能生成合成內(nèi)容，所以不應(yīng)承擔(dān)過錯(cuò)責(zé)任。

如果人工智能生成合成內(nèi)容已依法進(jìn)行標(biāo)識或生成內(nèi)容平臺已進(jìn)行相關(guān)“AI自動生成標(biāo)識”，但AI大模型仍抓取進(jìn)行分析輸出，則AI大模型平臺具有明顯審核過錯(cuò)，應(yīng)承擔(dān)過錯(cuò)責(zé)任。

專家介紹：馬愷濃律師，浙江省律師協(xié)會競爭法專業(yè)委員會委員、杭州市律師協(xié)會文化產(chǎn)業(yè)專業(yè)委員會委員，同時(shí)擔(dān)任浙江省吉林商會法律咨詢委員會委員和法律顧問團(tuán)成員。中國政法大學(xué)本科法學(xué)畢業(yè)，吉林大學(xué)碩士，民商事審判法官出身，主要執(zhí)業(yè)領(lǐng)域涵蓋民商事訴訟、公司法律事務(wù)、互聯(lián)網(wǎng)與電子商務(wù)法、娛樂法、知識產(chǎn)權(quán)法、婚姻家事與勞動爭議等，其業(yè)務(wù)范圍亦涉及刑事行政相關(guān)領(lǐng)域。

【小貼士】

網(wǎng)經(jīng)社及前身成立于2007年，公司總部位于杭州，系國內(nèi)唯一擁有A股上市公司背景的數(shù)字經(jīng)濟(jì)綜合服務(wù)商。圍繞“媒體+智庫+媒介”三大戰(zhàn)略，網(wǎng)經(jīng)社打造了三個(gè)“中心”：媒體資訊中心、數(shù)據(jù)研究中心、資源連接中心，并賦能數(shù)字經(jīng)濟(jì)企業(yè)發(fā)展， 提供全媒體宣傳、智庫賦能（報(bào)告、培訓(xùn)、游學(xué)等）、投融資、會議活動等服務(wù)。