山東
4月4日報道，用戶向AI助手“豆包”發送私密照片請求身材評價，因違反內容安全規定導致賬號被封禁。事件中，該男子將洗澡照片等不雅內容發給豆包，并要求AI對其身材進行測評，甚至有消息稱其進行了視頻裸露行為。此舉觸發平臺風控機制，賬號被系統判定為發送違規內容而遭停用，解封時間顯示為2026年5月。
豆包官方明確表示：發送不雅內容、惡意騷擾等行為會被系統自動識別并處理，包括限制使用或永久封禁賬號。盡管部分用戶認為AI可完全由算法審核，但多方信息證實，平臺存在“AI初篩+人工復核”雙重機制——當機器無法判斷敏感內容時，會推送至后臺審核員進行人工核查。因此，不當內容不僅觸犯規則，也可能對審核人員造成心理不適，引發倫理爭議。（大象新聞）
編輯：張晚晴
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
