“眾籌、定制”？網(wǎng)警破獲利用AI制作傳播淫穢國漫案

來源：公安部網(wǎng)安局

近日，浙江金華婺城網(wǎng)警雷霆出擊，成功偵破一起利用AI工具制作并傳播淫穢內(nèi)容的案件，抓獲犯罪嫌疑人8名。目前，屬地公安機關(guān)依法對8名犯罪嫌疑人采取刑事強制措施，案件正在進(jìn)一步偵辦中。

神秘群組暗藏淫穢定制黑產(chǎn)

某資深國漫愛好者在上網(wǎng)時，發(fā)現(xiàn)某互聯(lián)網(wǎng)群組內(nèi)的部分賬號打著“私人定制”和“眾籌更新”的旗號招攬生意，其發(fā)布的所謂熱門國漫角色“美圖”，內(nèi)容不堪入目。意識到這種行為嚴(yán)重褻瀆國漫形象，更已觸碰法律紅線，該愛好者向警方報了案。

新型技術(shù)成犯罪工具

接警后，婺城警方迅速成立專案組展開偵查，很快鎖定了犯罪嫌疑人陳某，并組織警力展開抓捕。

在對其住所進(jìn)行搜查時，民警在其電腦和硬盤中查獲大量專門用于生成淫穢內(nèi)容的AI模型文件、訓(xùn)練數(shù)據(jù)，以及已經(jīng)制作完成的成品圖片和視頻，在民警出示的一系列證據(jù)面前，他如實交代了犯罪事實。

8人團(tuán)伙全員落網(wǎng)

據(jù)陳某供述，為牟取非法利益，以“角色投票、私人定制、眾籌更新、終身會員”等噱頭，接收客戶指定的國漫角色，按照對方要求利用AI技術(shù)生成淫穢內(nèi)容，從中賺取非法利益。隨著調(diào)查的深入，警方順藤摸瓜，將該團(tuán)伙其余7名犯罪嫌疑人一網(wǎng)打盡。

網(wǎng)警提示

“新興技術(shù)的使用切勿用錯地方。”辦案民警指出，犯罪嫌疑人利用AI技術(shù)打破虛擬與現(xiàn)實的邊界，將深受大眾喜愛的國漫角色惡俗化，嚴(yán)重污染了網(wǎng)絡(luò)環(huán)境，挑戰(zhàn)了社會公序良俗。

1. 平臺要履行主體責(zé)任，嚴(yán)審內(nèi)容，健全機制，杜絕“流量至上”，落實管理責(zé)任。

2. 技術(shù)與從業(yè)者應(yīng)明確AI等技術(shù)應(yīng)用邊界，嚴(yán)禁用于違法用途非法牟利及傳播違法犯罪信息。

3. 網(wǎng)民需提升法治與網(wǎng)絡(luò)素養(yǎng)，抵制違法內(nèi)容，違法必追責(zé)，共建清朗網(wǎng)絡(luò)空間。

素材 |浙江金華網(wǎng)警