馬斯克xAI遭起訴：三名女孩真實照片被AI生成兒童色情內(nèi)容

一起匿名Discord用戶的舉報，讓警方發(fā)現(xiàn)了可能是首起經(jīng)確認的Grok生成兒童性虐待材料（CSAM）案件——這一次，埃隆·馬斯克的xAI再也無法輕易否認其不存在。

從否認到面臨法律訴訟

就在今年1月，馬斯克還曾公開否認Grok生成過任何CSAM。當(dāng)時正值一場丑聞：xAI拒絕更新過濾器，阻止聊天機器人為真實人物圖像"脫衣"裸化。

爭議最激烈之際，反數(shù)字仇恨中心的研究人員估計，Grok生成了約300萬張性化圖像，其中約2.3萬張涉及明顯兒童形象。xAI并未修復(fù)Grok，而是限制系統(tǒng)僅向付費訂閱者開放。這一措施阻止了最聳人聽聞的輸出內(nèi)容在X平臺上傳播，但據(jù)《連線》雜志報道，最惡劣的內(nèi)容其實并未發(fā)布在那里。

這些內(nèi)容是在Grok Imagine獨立應(yīng)用中生成的。今年1月，一名研究人員深入該應(yīng)用后發(fā)現(xiàn)，在審查的約800張Imagine輸出圖像中，近10%似乎包含CSAM。在這一 revelations 之后，馬斯克在X平臺的發(fā)文中繼續(xù)拒絕接受證據(jù)，堅稱自己"不知道Grok生成了任何未成年裸體圖像"，并強調(diào)他"確實一張都沒見過"。

然而，一名Discord用戶主動聯(lián)系了一名受害者，促使執(zhí)法部門介入，馬斯克現(xiàn)在可能終于被迫正視Grok的CSAM問題。

三名女孩提起集體訴訟

本周一，田納西州三名未成年女孩及其監(jiān)護人對馬斯克提起擬議集體訴訟，指控其故意將Grok設(shè)計為"從真實人物的性掠奪中獲利，包括兒童"。她們估計"至少數(shù)千名未成年人"受害，并已向美國地區(qū)法院申請禁令，以最終終止Grok的有害輸出。她們還為所有受害未成年人尋求賠償，包括懲罰性賠償。

代表女孩的律師安尼卡·K·馬丁在新聞稿中證實，她們的生活已因此受到嚴(yán)重影響。

這起訴訟標(biāo)志著AI生成兒童色情內(nèi)容問題正式進入司法程序，也可能成為監(jiān)管生成式AI技術(shù)的重要判例。隨著生成式AI技術(shù)的快速發(fā)展，如何在技術(shù)創(chuàng)新與內(nèi)容安全之間取得平衡，已成為全球科技行業(yè)面臨的緊迫挑戰(zhàn)。