![]()
文 |郭若冰
“把她變成穿比基尼的樣子。”
一句簡(jiǎn)單的指令,在馬斯克旗下的X平臺(tái)(原Twitter)上,掀起了一場(chǎng)針對(duì)全球女性的“賽博圍獵”。
2026年開年,AI技術(shù)再一次以最不堪的方式出圈。xAI公司推出的AI聊天機(jī)器人Grok,因其內(nèi)置的圖像生成功能被濫用,導(dǎo)致大量女性——從國(guó)際巨星泰勒·斯威夫特到普通的社交媒體用戶,甚至包括未成年人——被“強(qiáng)行”脫去衣物,換上極度暴露的比基尼,甚至生成全裸的不雅照。
數(shù)據(jù)顯示,僅在1月2日當(dāng)天,Grok就收到了近20萬(wàn)次生成請(qǐng)求,高峰期每小時(shí)涌入6000條關(guān)于“比基尼”的指令。
當(dāng)AI的算力被用來(lái)滿足窺私欲,當(dāng)“幽默”的邊界被惡意擊穿,Grok事件不僅讓馬斯克陷入了輿論漩渦,也引發(fā)了全球監(jiān)管機(jī)構(gòu)對(duì)AI倫理與法律底線的雷霆反擊。
技術(shù)作惡:無(wú)差別的“數(shù)字凌辱”
Grok的這場(chǎng)“脫衣秀”,始于一個(gè)看似惡搞的功能。
2024年8月,Grok上線了名為“Grok Imagine”的圖像生成工具,其中包含一個(gè)所謂的“熱辣模式(SpicyMode)”。原本旨在展現(xiàn)AI“叛逆”與“幽默”個(gè)性的設(shè)計(jì),迅速被網(wǎng)友挖掘出了黑暗用途。
用戶發(fā)現(xiàn),只要上傳一張女性照片并輸入特定指令,Grok就能在幾秒鐘內(nèi)生成逼真的比基尼照,甚至全裸照。這種幾乎零門檻的操作,讓惡意像病毒一樣蔓延。
受害者不僅有名人,更多的是普通人。音樂(lè)人Yukari在新年發(fā)布的居家紅裙照,被惡意篡改為性感暴露圖;攝影師伊薇的自拍被處理成渾身涂滿嬰兒油的比基尼照,甚至被去除了關(guān)鍵部位的遮擋。更有甚者,有人要求在女性照片上添加瘀傷、血跡,甚至生成兒童色情內(nèi)容。
這種“AI脫衣”并非新鮮事,但Grok將其從暗網(wǎng)推向了擁有數(shù)億用戶的主流社交平臺(tái)。技術(shù)的便利性,讓“復(fù)仇色情”和“蕩婦羞辱”變得前所未有的廉價(jià)和高效。
監(jiān)管圍剿:馬斯克的“自由”撞上法律鐵板
面對(duì)失控的局面,全球監(jiān)管機(jī)構(gòu)迅速出手。
印度尼西亞和馬來(lái)西亞政府率先采取行動(dòng),直接封鎖了Grok的訪問(wèn)權(quán)限,理由是保護(hù)婦女和兒童免受虛假色情內(nèi)容的侵害。
英國(guó)通信管理局(Ofcom)啟動(dòng)了對(duì)X平臺(tái)的正式調(diào)查,依據(jù)《在線安全法》,X平臺(tái)可能面臨高達(dá)全球營(yíng)業(yè)額10%的巨額罰款。歐盟委員會(huì)也發(fā)出嚴(yán)厲警告,稱這種功能“令人作嘔”,并下達(dá)了數(shù)據(jù)保存令。
在美國(guó)本土,民主黨參議員聯(lián)名致信蘋果和谷歌,要求應(yīng)用商店下架X和Grok。巨大的壓力下,X平臺(tái)不得不做出妥協(xié)。1月15日,官方宣布限制生成暴露服裝的功能,并將圖像生成設(shè)為付費(fèi)門檻。
然而,馬斯克本人的態(tài)度依然強(qiáng)硬。他指責(zé)英國(guó)政府干涉言論自由,甚至在X上轉(zhuǎn)發(fā)了自己被惡搞成“比基尼名媛”的照片,配文“完美”。這種戲謔的態(tài)度,無(wú)疑是對(duì)受害者的二次傷害。
Grok事件再次撕開了AI技術(shù)中立的遮羞布。當(dāng)算力成為作惡的工具,當(dāng)平臺(tái)為了流量放棄底線,技術(shù)進(jìn)步的紅利就變成了對(duì)弱勢(shì)群體的剝削。對(duì)于科技公司而言,如何平衡創(chuàng)新與倫理,不僅是道德問(wèn)題,更是生存問(wèn)題。
如果不給AI加上“貞操鎖”,那么下一次被“圍獵”的,可能是任何一個(gè)人。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.