利用AI生成圖片，塑造“單親媽媽陪讀”人設(shè)，進行色情導流，黑產(chǎn)團伙4人被刑拘，1.4萬個AI生成色情低俗類賬號被處置

抖音嚴打AI生成色情低俗類違規(guī)內(nèi)容

3月10日，據(jù)抖音黑板報：近期，平臺發(fā)現(xiàn)部分違規(guī)用戶通過AI生成“單親媽媽曖昧互動”“美女魅惑舞蹈”等低俗擦邊內(nèi)容，違反《抖音社區(qū)自律公約》。平臺堅持從嚴從重處置。今年以來，針對AI生成色情低俗類違規(guī)，平臺已處置4.2萬條內(nèi)容，對1.4萬個賬號處以限制推薦、禁言、封禁等不同梯度的處罰。

部分典型案例如下：

利用AI生成圖片塑造“單親媽媽陪讀”人設(shè)進行色情導流，黑產(chǎn)團伙4人被刑拘

平臺巡查發(fā)現(xiàn)，一批賬號利用AI生成“單親媽媽陪讀”人設(shè)的內(nèi)容，通過發(fā)布性感擦邊視頻并配以性暗示文案，誘導用戶關(guān)注。平臺經(jīng)深度研判與線索挖掘，發(fā)現(xiàn)背后疑似有黑產(chǎn)團伙操控，該團伙通過賬號簽名、群聊等方式，誘導用戶跳轉(zhuǎn)至第三方平臺下載色情低俗 App。平臺立即清理違規(guī)內(nèi)容、無限期封禁相關(guān)賬號，并收集線索上報至公安機關(guān)。最終，該黑產(chǎn)團伙4人被依法刑事拘留。

利用AI生成美女圖片引導用戶至收藏頁進行色情導流，339個賬號被處置

用戶“AI說”“一北”“冰**式”等用戶，通過將直播間封面設(shè)置為AI生成美女圖片，但在頭像圖片中配“看我收藏”等字樣，引導觀眾查看其主頁收藏，進而為色情網(wǎng)站導流。平臺已清理相關(guān)違規(guī)內(nèi)容，并對相關(guān)賬號無限期回收直播權(quán)限。

持續(xù)發(fā)布AI生成著裝暴露的擦邊內(nèi)容，8421個賬號被處置

用戶“奇藍”“一差”利用AI生成著裝暴露的女性形象，持續(xù)發(fā)布高空劈叉、魅惑舞蹈等動作；用戶“哦哦”“jg”持續(xù)發(fā)布多條AI生成聚焦私密部位的女性“泳池度假照”“海濱度假照”擦邊信息；平臺已清理相關(guān)違規(guī)內(nèi)容，并對相關(guān)賬號采取限制推薦、禁言、封禁等梯度處罰。

利用色情低俗信息為色情網(wǎng)站導流、售賣淫穢色情物品等行為，違反《中華人民共和國刑法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等相關(guān)法律法規(guī)，涉嫌非法利用信息網(wǎng)絡(luò)罪、傳播淫穢物品罪。對相關(guān)違法行為，抖音將主動上報公安機關(guān)。

抖音也將不斷升級治理技術(shù)和治理手段，提升對利用AI技術(shù)生成不良內(nèi)容的發(fā)現(xiàn)、識別和處置能力。抖音也在此提醒廣大創(chuàng)作者及用戶，自覺遵守法律法規(guī)及平臺規(guī)則，與平臺共同抵制各類色情低俗、違規(guī)導流行為，維護健康的網(wǎng)絡(luò)環(huán)境。如發(fā)現(xiàn)相關(guān)違規(guī)內(nèi)容可撥打抖音官方服務(wù)熱線95152，或發(fā)送至舉報郵箱 feedback@douyin.com，我們將及時跟進處理。

小紅書公告打擊AI托管類賬號

3月10日消息，小紅書薯管家發(fā)布公告稱，小紅書堅定維護社區(qū)的真實底色，嚴格禁止任何利用技術(shù)手段模擬真人、進行非真實內(nèi)容創(chuàng)作或虛假互動的行為，將對采用AI托管模式運營的賬號進行治理。同時呼吁用戶在創(chuàng)作過程中合理使用AI工具，如發(fā)現(xiàn)疑似AI托管賬號或相關(guān)內(nèi)容，請第一時間通過舉報按鈕向平臺反饋。

以下為公告全文：

近期，平臺發(fā)現(xiàn)部分用戶采用AI托管模式運營賬號，通過技術(shù)手段自動生成內(nèi)容、發(fā)布筆記，并在評論、私信、群聊等場景中模擬真人互動。

數(shù)以億計的用戶在小紅書平臺上分享自己的生活經(jīng)驗，每一次真實的記錄、每一次真誠的交流，共同構(gòu)成了社區(qū)溫暖的底色。因此，平臺嚴格禁止任何利用技術(shù)手段模擬真人、進行非真實內(nèi)容創(chuàng)作或虛假互動的行為。

即日起，平臺將對AI托管類賬號實行以下治理措施：

1.對于普通賬號偶發(fā)使用AI托管代寫、代發(fā)筆記或進行互動，平臺將根據(jù)違規(guī)程度，采取警告、限制內(nèi)容分發(fā)等梯度處理措施。

2.對于直接通過AI托管工具注冊、發(fā)布、互動的賬號，或主頁所有公開筆記均為AI托管代發(fā)的賬號，平臺將予以封禁處理。

我們呼吁用戶在創(chuàng)作過程中合理使用AI工具，堅持由真人分享真實經(jīng)歷與感受，共同守護社區(qū)的真實底色。

如發(fā)現(xiàn)疑似AI托管賬號或相關(guān)內(nèi)容，請第一時間通過舉報按鈕向平臺反饋。