亂套了！淮安人別亂發！一大批賬號已被處置！

這兩天

視頻大模型Seedance2.0

在國內外社交平臺上

掀起一陣刷屏式傳播

各種腦洞大開的畫面刷屏

引發熱議與思考

有網友第一時間就提出

亂套了，真假難辨

對于部分不添加AI標識

誤導公眾的視頻

官方已經出手！

多人因濫用AI被處理！

據"網信中國”消息，近期，部分網絡賬號發布AI生成合成信息時，不添加AI標識，存在利用虛假不實內容欺騙誤導公眾的問題，破壞網絡生態，造成惡劣影響。網信部門督促網站平臺深入排查整治，依法依約處置賬號13421個，清理違法違規信息54.3萬余條?，F將部分典型案例通報如下：

一、微博賬號“澄馫”、快手賬號“玲子愛狗狗”、嗶哩嗶哩賬號“空空說電影”等，發布狗在高鐵站救下嬰兒、狗拆炸彈救人、鱷魚傷人等視頻時，未添加AI生成標識，借虛構感人故事、獵奇事件惡意博取流量。相關賬號已被依法依約處置。

二、微信賬號“浮萍9419”、微博賬號“乘風已歸來”、快手賬號“東東情感”等，以AI換臉、聲音克隆等方式，假冒運動員、演員、主持人、企業家等公眾人物，發布不實言論，借此吸粉引流，或未經授權，售賣AI生成的公眾人物“送祝?！薄鞍菽辍钡纫曨l，從中不當牟利。相關賬號已被依法依約處置。

三、抖音賬號“巷子里的魚”“禾粟”、快手賬號“朵姐正能量”“小豬豬”等，發布AI生成的虛假火災現場圖片、視頻，惡意編造、炒作火災事故，混淆視聽，擾亂公共秩序。相關賬號已被依法依約處置。

四、嗶哩嗶哩賬號“真難我知道”、抖音賬號“小奧特曼大智慧”、百度賬號“清崽影視”等，借AI魔改未成年人喜愛的動畫角色，制作刀切小馬寶莉頭部、奧特曼懷孕等視頻，傳播低俗驚悚、血腥暴力內容，宣揚不良價值觀，侵擾未成年人身心健康。相關賬號已被依法依約處置。

五、小紅書賬號“浪淘達人”“南坤的店”等，發布“豆包圖片去水印神器”等內容，分享去除AI標識教程、軟件，淘寶、閑魚、拼多多店鋪“浙江智意AI”“鼎建祥旗艦店”等，售賣去AI標識教程、軟件及服務。相關賬號已被依法依約處置，違規商品已下架。

下一步，網信部門將對無AI標識的虛假不實信息保持高壓嚴管態勢，發現即處置，嚴厲打擊違規行為。同時，也呼吁廣大網絡內容創作者按照相關規定主動添加AI標識，避免誤導公眾，共同營造風清氣正的網絡環境。

上海：即日起多部門聯合開展
“整治AI涉企虛假不實信息”
專項行動

為切實維護企業網絡合法權益

嚴打AI涉企謠言

上海市委網信辦

會同上海市公安局網安總隊

即日起集中開展

“整治AI涉企虛假不實信息”

專項行動

本次專項行動重點聚焦利用AI技術生成傳播涉企虛假不實信息，誤導公眾認知、影響企業形象聲譽、抹黑攻擊競爭對手等問題，由上海市委網信辦、上海市公安局網安總隊聯合推進，將加強典型案例打擊處置，斬斷利用AI技術不當牟利的利益鏈條，力爭達到“標本兼治、打防結合、凈化生態”的整治效果。

為建立健全長效機制，上海市委網信辦將持續督促屬地AI應用程序和傳播平臺切實履行主體責任，完善技術識別和人工復核機制，暢通用戶投訴舉報渠道，對利用AI生成“同質化”不實信息、違規“養號”等行為強化審核處置；對AI批量制作、低質搬運、無來源虛構等“數字泔水”垃圾內容探索有效治理措施。

上海市委網信辦相關負責人表示，AI技術在賦能經濟社會發展的同時，也面臨技術濫用、虛假信息傳播加劇等問題。當前，整治AI涉企謠言問題對營造公平有序的營商環境具有重要意義。上海市委網信辦將會同相關部門對專項整治期間屢教不改、頂風違規、情節嚴重的網站平臺和賬號，依法依規從嚴查處，切實規范涉企網絡信息傳播秩序。

來源：新聞坊綜合網信中國、網信上海