提到AI,你想到的是什么?是幫你寫PPT的打工神器,還是能一鍵生成大片的生產(chǎn)力工具?
昨晚央視的專題報道,狠狠撕開了生成式AI最骯臟的一面。
一條從售賣教程、兜售“提示詞”,到一鍵換臉、虛擬色情陪伴的黑色產(chǎn)業(yè)鏈,已經(jīng)極其猖獗了。
![]()
你以為生成以假亂真的色情視頻,需要什么名牌大學(xué)的計算機碩士學(xué)歷嗎?
錯,在這個黑產(chǎn)里,門檻只要9塊9。
據(jù)央視記者實地暗訪,現(xiàn)在網(wǎng)上有大量商家在兜售所謂的“AI擦邊賽道教程”。他們不賣軟件,他們賣的是“提示詞”。
![]()
在一些視頻平臺上,央視記者搜索“最強大尺度”等關(guān)鍵詞,隨即就赫然呈現(xiàn)出了一連串五花八門的“教程視頻”。
比如“AI美女大尺度圖片生成”,還有更離譜的“成人電影一分鐘生成”。
![]()
一些博主還示范如何制作“美女視頻抖胸效果”。
為博眼球,高調(diào)宣稱“實力碾壓真人演員”。
![]()
能看出來,一些平臺對真人的擦邊視頻,確實有著限制規(guī)范。
只是對那些打著“技術(shù)科普”“保姆級教程”幌子的視頻,卻似乎選擇了“睜一只眼閉一只眼”。
為了繞過各大正規(guī)AI軟件的審核機制,這幫人絞盡腦汁,把敏感詞翻譯成冷門英文,用極其精細(xì)的物理參數(shù)去描述女性的身材、服飾和扭動幅度。
那些“投機取巧”的博主,也就變本加厲。
在利用普通人性格弱點瘋狂傳播的同時,一些人還將它包裝成“賺大錢的手段”。
什么“做擦邊自媒體”,“漲粉太快”,“AI擦邊賽道日入五位數(shù)”。
![]()
點開視頻,這些“教程”詳細(xì)闡述著如何一步步“定制”出想要的視頻。
第一步,找一張“讓你欣喜若狂”或者“小鹿亂撞”的真人照片。
第二步,就需要登陸博主提供的平臺,輸入文本要求,進(jìn)行“定向生成”。
![]()
技術(shù)原本無罪,但在這些特定產(chǎn)業(yè)鏈下,幾乎每一步都游走在犯罪的邊緣。
比如照片的選用。
這些博主不會明說,你去選怎樣的圖片。
但很多人看完教程后,實際上就會找一些女明星或者周圍朋友的照片。
![]()
![]()
本質(zhì)上,是想讓照片的中,進(jìn)入到特定場景,以滿足自己的某種虛空幻想。
![]()
第一步開始,就已經(jīng)侵犯了別人的隱私權(quán)、肖像權(quán)。
其實早在前幾年,AI技術(shù)剛剛興起時,這些利用AI行不法之事的惡行,就已經(jīng)開始萌芽。
2024年3月,法院審理了一宗“涉黃AI換臉案”。
![]()
主犯虞某聲稱:“只要能看到臉的都能換。”
虞某最終因制作、傳播淫穢物品牟利罪,被判有期徒刑七年三個月。
在隔壁韓國,利用“AI換臉”引發(fā)的惡行,也在普通人群里引發(fā)了軒然大波。
最具代表性的,就是“DEEPFAKE”事件。
![]()
不少韓國女性怒斥之余,感受到深深的恐慌。
![]()
這些組織搭建非法網(wǎng)站,以傳播分享為名,吸引眾多韓國年輕網(wǎng)友進(jìn)入。
首頁網(wǎng)站上,就清晰標(biāo)明了不同極具誘惑力的房間群組。
“女秘書房”、“女教師房”、“護(hù)士房”、“空姐房”……
甚至還有“家庭房”、“近親房”。
在群組內(nèi),則是各式各樣的深度偽造圖片及視頻。
![]()
最可怕的是,沉迷其中的不僅有成年人,還有大量三觀尚未成熟的未成年人。
這是用最前沿的算力,在給下一代的大腦里灌輸“電子春藥”。
![]()
從錄像帶到互聯(lián)網(wǎng),再到如今的AI,色情永遠(yuǎn)是新技術(shù)變現(xiàn)最快、也最下作的渠道。
但AI的危險在于,它把“作惡的門檻”降到了歷史最低。它賦予了每一個心懷鬼胎的普通人,堪比好萊塢特效團(tuán)隊的造假能力。
好在,監(jiān)管重拳已經(jīng)砸下。就在4月10日,國家正式公布了《人工智能擬人化互動服務(wù)管理暫行辦法》,網(wǎng)信辦也全面啟動了整治AI技術(shù)濫用的專項行動。
技術(shù)無罪,但濫用技術(shù)的人必須把牢底坐穿!
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.