以安全為底線、以真實(shí)為核心，今日頭條2025治理白皮書(shū)正式發(fā)布

3 月 18 日，今日頭條舉辦2025 年度平臺(tái)治理媒體開(kāi)放日，發(fā)布《今日頭條2025年度平臺(tái)治理白皮書(shū)》。

白皮書(shū)圍繞網(wǎng)絡(luò)詐騙、暴力、水軍、謠言、低質(zhì)AI內(nèi)容等核心議題，公布平臺(tái)治理行動(dòng)和成效。數(shù)據(jù)顯示，2025年全年，今日頭條共向用戶推送300余萬(wàn)條涉詐風(fēng)險(xiǎn)提醒、處置網(wǎng)暴相關(guān)違規(guī)評(píng)論3.6億條，為70萬(wàn)賬號(hào)啟用了一鍵防網(wǎng)暴功能。

活動(dòng)現(xiàn)場(chǎng)，今日頭條安全運(yùn)營(yíng)和內(nèi)容治理運(yùn)營(yíng)相關(guān)負(fù)責(zé)人，分別做了業(yè)務(wù)分享 ，對(duì)外傳遞“以安全為底線，以真實(shí)為核心”的治理理念。

推送風(fēng)險(xiǎn)提醒 300 余萬(wàn)條，打擊網(wǎng)騙、網(wǎng)暴、水軍內(nèi)容

今日頭條安全運(yùn)營(yíng)負(fù)責(zé)人閆夢(mèng)茹表示，安全是平臺(tái)不可逾越的底線，2025 年平臺(tái)聚焦反詐、網(wǎng)暴、水軍三大領(lǐng)域，以務(wù)實(shí)舉措守護(hù)用戶安全感。在反詐治理上，平臺(tái)構(gòu)建注冊(cè)登錄、行為特征、內(nèi)容識(shí)別、團(tuán)伙打擊四維全鏈路體系，全年處置涉詐內(nèi)容 135 萬(wàn)條、封禁涉詐賬號(hào) 18 萬(wàn)個(gè)，推送風(fēng)險(xiǎn)提醒 300 余萬(wàn)次。此外，平臺(tái)通過(guò)創(chuàng)新動(dòng)畫(huà)、短劇等科普形式，加大反詐宣傳，提高用戶防范意識(shí)。

今日頭條安全運(yùn)營(yíng)負(fù)責(zé)人 閆夢(mèng)茹

針對(duì)網(wǎng)絡(luò)暴力與體育 “飯圈” 亂象，平臺(tái)建立內(nèi)容與賬號(hào)雙線治理機(jī)制，精準(zhǔn)識(shí)別辱罵攻擊、拉踩引戰(zhàn)內(nèi)容，分級(jí)處置違規(guī)賬號(hào)，主動(dòng)為用戶開(kāi)啟防護(hù)功能，全年處置違規(guī)評(píng)論 3.6 億余條，為 70 余萬(wàn)個(gè)賬號(hào)啟用一鍵防網(wǎng)暴。平臺(tái)同時(shí)對(duì)網(wǎng)絡(luò)水軍堅(jiān)持零容忍，對(duì)團(tuán)伙化行為特征進(jìn)行總結(jié)、實(shí)施階梯式處罰，全年封禁賬號(hào)13.9萬(wàn)個(gè)。

中國(guó)政法大學(xué)網(wǎng)絡(luò)法學(xué)研究所所長(zhǎng)李懷勝在現(xiàn)場(chǎng)指出，網(wǎng)絡(luò)詐騙已形成系統(tǒng)化犯罪鏈條，治理需堅(jiān)持法律引領(lǐng)、多元共治、公眾參與。其中，提高公眾參與度是反詐的重要一環(huán)。“今日頭條的平臺(tái)治理報(bào)告中有兩組數(shù)據(jù)值得深思：一是平臺(tái)通過(guò)私信對(duì)高危風(fēng)險(xiǎn)進(jìn)行了300余萬(wàn)條提醒，二是部分用戶對(duì)反詐提示存在抵觸情緒。這兩組數(shù)據(jù)恰恰說(shuō)明，沒(méi)有公眾的主動(dòng)參與，再嚴(yán)密的技術(shù)防線、再完善的法律制度都可能被突破。”李懷勝表示。

中國(guó)政法大學(xué)網(wǎng)絡(luò)法學(xué)研究所所長(zhǎng)李懷勝

實(shí)現(xiàn)1小時(shí)內(nèi)存量謠言回掃，持續(xù)提升平臺(tái)生態(tài)健康

今日頭條內(nèi)容治理運(yùn)營(yíng)負(fù)責(zé)人鄭子龍介紹，AIGC 技術(shù)普及帶來(lái)內(nèi)容生產(chǎn)便利，也催生低質(zhì) AI內(nèi)容 、虛假謠言批量傳播等問(wèn)題。過(guò)去一年，平臺(tái)以 “守護(hù)真實(shí)” 為核心，強(qiáng)化技術(shù)與規(guī)則雙重治理。

內(nèi)容層面，平臺(tái)通過(guò)敏捷監(jiān)控聚類(lèi)發(fā)文和用戶負(fù)評(píng)等方式不斷挖掘新的低質(zhì)AI內(nèi)容特征，持續(xù)迭代管控標(biāo)準(zhǔn)，并反哺模型訓(xùn)練增強(qiáng)對(duì)低質(zhì)AI問(wèn)題的識(shí)別與處置；在賬號(hào)層面，對(duì)持續(xù)發(fā)布低質(zhì)AI內(nèi)容的作者打壓甚至禁言處罰，同時(shí)通過(guò)發(fā)布治理公告，引導(dǎo)創(chuàng)作者自覺(jué)抵制低質(zhì) AI 內(nèi)容，提升內(nèi)容創(chuàng)作質(zhì)量，共同維護(hù)健康的網(wǎng)絡(luò)生態(tài)。針對(duì)低質(zhì) AIGC 內(nèi)容，全年處置相關(guān)內(nèi)容超 260 萬(wàn)條，對(duì)違規(guī)賬號(hào)實(shí)施流量限制、禁言等處罰。

在網(wǎng)絡(luò)謠言治理方面，平臺(tái)搭建全鏈路處置體系，依托權(quán)威信源比對(duì)、大模型識(shí)別能力，實(shí)現(xiàn) 1 小時(shí)內(nèi)存量謠言回掃清理，全年清理虛假內(nèi)容 700 余萬(wàn)條，處置違規(guī)賬號(hào) 3.3 萬(wàn)個(gè)。同時(shí)，平臺(tái)通過(guò) “頭條治序” 科普欄目，持續(xù)提升用戶辨識(shí)能力。

今日頭條內(nèi)容治理運(yùn)營(yíng)負(fù)責(zé)人 鄭子龍

同時(shí)，平臺(tái)展開(kāi)創(chuàng)作者認(rèn)知治理、低成本創(chuàng)作者治理等專項(xiàng)，清退2萬(wàn)多低質(zhì)認(rèn)證作者，嚴(yán)厲打擊套路化低質(zhì)內(nèi)容和短時(shí)高密度發(fā)文行為，處置60多萬(wàn)投機(jī)賬號(hào)。

中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春認(rèn)為，低質(zhì) AI 內(nèi)容治理需明確標(biāo)準(zhǔn)、技術(shù)賦能、多方協(xié)同。平臺(tái)應(yīng)完善 AI 內(nèi)容標(biāo)識(shí)與審核機(jī)制，強(qiáng)化技術(shù)檢測(cè)與創(chuàng)作者引導(dǎo)，推動(dòng)形成監(jiān)管、平臺(tái)、用戶共治格局，從源頭遏制虛假誤導(dǎo)內(nèi)容蔓延。

中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春

持續(xù)打擊網(wǎng)絡(luò)黑灰產(chǎn)，保護(hù)用戶權(quán)益、推動(dòng)生態(tài)向好

作為通用信息分發(fā)與創(chuàng)作平臺(tái)，內(nèi)容安全與內(nèi)容生態(tài)是今日頭條的核心組成部分。活動(dòng)現(xiàn)場(chǎng)，今日頭條安全運(yùn)營(yíng)負(fù)責(zé)人閆夢(mèng)茹、內(nèi)容治理運(yùn)營(yíng)負(fù)責(zé)人鄭子龍，就如何提升用戶防范意識(shí)、虛假謠言治理核心機(jī)制等關(guān)鍵問(wèn)題作出詳細(xì)解答。

閆夢(mèng)茹介紹，當(dāng)平臺(tái)監(jiān)測(cè)到網(wǎng)絡(luò)詐騙等相關(guān)風(fēng)險(xiǎn)時(shí)，會(huì)通過(guò)私信提醒方式警示用戶，“若平臺(tái)在對(duì)話框中提示‘該對(duì)話可能涉及交易轉(zhuǎn)賬、個(gè)人隱私等敏感信息，謹(jǐn)防詐騙、遵守國(guó)家法律法規(guī)’等內(nèi)容，請(qǐng)用戶務(wù)必高度關(guān)注相關(guān)風(fēng)險(xiǎn)，提高警惕。”

“生態(tài)治理同樣也離不開(kāi)公眾的參與，提高用戶對(duì)于生態(tài)治理的認(rèn)知對(duì)構(gòu)建一個(gè)健康、多元、清朗的平臺(tái)生態(tài)非常重要。”鄭子龍表示。

2025 年，今日頭條通過(guò)系列專項(xiàng)行動(dòng)、技術(shù)升級(jí)、規(guī)則完善和生態(tài)治理，持續(xù)打擊網(wǎng)絡(luò)黑灰產(chǎn)、清理不良信息、保護(hù)用戶權(quán)益，推動(dòng)平臺(tái)生態(tài)不斷向好。治理沒(méi)有終點(diǎn)，用戶的安全感與對(duì)優(yōu)質(zhì)內(nèi)容的期待，是平臺(tái)持續(xù)前行的動(dòng)力。