![]()
一起匿名Discord用戶的舉報,讓警方發(fā)現(xiàn)了可能是首起經(jīng)確認的Grok生成兒童性虐待材料(CSAM)案件——這一次,埃隆·馬斯克的xAI再也無法輕易否認其不存在。
從否認到面臨法律訴訟
就在今年1月,馬斯克還曾公開否認Grok生成過任何CSAM。當(dāng)時正值一場丑聞:xAI拒絕更新過濾器,阻止聊天機器人為真實人物圖像"脫衣"裸化。
爭議最激烈之際,反數(shù)字仇恨中心的研究人員估計,Grok生成了約300萬張性化圖像,其中約2.3萬張涉及明顯兒童形象。xAI并未修復(fù)Grok,而是限制系統(tǒng)僅向付費訂閱者開放。這一措施阻止了最聳人聽聞的輸出內(nèi)容在X平臺上傳播,但據(jù)《連線》雜志報道,最惡劣的內(nèi)容其實并未發(fā)布在那里。
這些內(nèi)容是在Grok Imagine獨立應(yīng)用中生成的。今年1月,一名研究人員深入該應(yīng)用后發(fā)現(xiàn),在審查的約800張Imagine輸出圖像中,近10%似乎包含CSAM。在這一 revelations 之后,馬斯克在X平臺的發(fā)文中繼續(xù)拒絕接受證據(jù),堅稱自己"不知道Grok生成了任何未成年裸體圖像",并強調(diào)他"確實一張都沒見過"。
然而,一名Discord用戶主動聯(lián)系了一名受害者,促使執(zhí)法部門介入,馬斯克現(xiàn)在可能終于被迫正視Grok的CSAM問題。
![]()
三名女孩提起集體訴訟
本周一,田納西州三名未成年女孩及其監(jiān)護人對馬斯克提起擬議集體訴訟,指控其故意將Grok設(shè)計為"從真實人物的性掠奪中獲利,包括兒童"。她們估計"至少數(shù)千名未成年人"受害,并已向美國地區(qū)法院申請禁令,以最終終止Grok的有害輸出。她們還為所有受害未成年人尋求賠償,包括懲罰性賠償。
代表女孩的律師安尼卡·K·馬丁在新聞稿中證實,她們的生活已因此受到嚴(yán)重影響。
這起訴訟標(biāo)志著AI生成兒童色情內(nèi)容問題正式進入司法程序,也可能成為監(jiān)管生成式AI技術(shù)的重要判例。隨著生成式AI技術(shù)的快速發(fā)展,如何在技術(shù)創(chuàng)新與內(nèi)容安全之間取得平衡,已成為全球科技行業(yè)面臨的緊迫挑戰(zhàn)。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.