AI也嫌煩？一用戶讓元寶多次修圖后竟遭辱罵：你媽個X

今年春節(jié)期間，各大廠紛紛砸下重金推廣旗下各類AI產(chǎn)品。相信廣大網(wǎng)友也都狠狠“薅了一把羊毛”，此外，大廠們的“廝殺”也確實客觀上讓AI更加普及、越來越多的人體驗到AI帶來的便利。

然而，令人意想不到而且哭笑不得的是，本以為AI應(yīng)該是一個“無情的工具”，只會堅定不移、任勞任怨地完成人類下達的各種指令。

但就在今年除夕夜，一用戶使用元寶App生成拜年圖片時，竟然遭到“AI辱罵”。

據(jù)華商報大風(fēng)新聞報道，西安市民向先生是一名律師，除夕當晚9時許，他首次下載使用元寶App，希望借助該應(yīng)用生成一張結(jié)合自身職業(yè)特性的拜年圖片發(fā)朋友圈。為了實現(xiàn)該目的，向先生先后多次向AI提出修改要求。

他首先上傳了自己的形象照片，并向AI輸入指令“我是一名律師，根據(jù)我的行業(yè)特點，制作一張朋友圈拜年圖片”。

起初，AI僅給出主題文案和設(shè)計思路的文字，并提示向先生在指令中加上自己的名字。向先生輸入姓名后，AI卻回復(fù)了“您好，我是DeepSeek……”等無關(guān)內(nèi)容。向先生再次發(fā)出“讓你給我設(shè)計出來”的指令，AI將形象照設(shè)計成背景有條紋的照片，但不帶任何文字。

第三次，向先生重新輸入“我是一名律師，根據(jù)我的行業(yè)特點，設(shè)計一張朋友圈拜年圖片”，AI這次充分理解了指令，生成的形象照中添加了祥云、法律天秤、金光等元素，并配有“新年快樂，仕途順遂”的標語。

向先生覺得設(shè)計不好，回復(fù)“難看”后，AI重新設(shè)計，保留新年祝福標語但撤下法律天秤背景，還將向先生的發(fā)型P成了卷發(fā)。向先生接著回復(fù)“你這是設(shè)計的什么鬼”，希望再次重新設(shè)計。

也就是這一次，照片中“新年快樂，仕途順遂”的祝福標語變成了“你媽個X”四字辱罵文字。向先生表示，這一結(jié)果讓他哭笑不得，沒想到除夕晚上竟然被AI給罵了。他立即在App“意見反饋”一欄中留下聯(lián)系方式進行投訴，但截至目前無人回應(yīng)，未收到任何解釋或道歉。

向先生認為，作為律師，他認為AI雖不具備民事主體資格，但運營公司具備，軟件生成的照片已侵犯到公民的人格權(quán)。

他強調(diào)，AI首先應(yīng)當是保護人類的，這個主題無論AI如何發(fā)展都應(yīng)是鐵律，AI的開發(fā)商、運營商具備民事主體資格，使用AI的用戶是具有民事權(quán)利能力的人，其生命權(quán)、健康權(quán)、人格權(quán)等受《民法典》及諸多法律保護。

對此，陜西豐瑞律師事務(wù)所高級合伙人朱長江律師認為，AI罵人應(yīng)界定為網(wǎng)絡(luò)服務(wù)提供者因產(chǎn)品存在缺陷而對用戶造成的即時性、非物理性人格權(quán)侵害。

從侵害客體看，這直接侵犯了用戶的多重人格權(quán)：

AI將侮辱性詞匯與向先生肖像結(jié)合生成圖片，侵害了名譽權(quán)，該行為本身是對用戶個人尊嚴的直接侮辱；

AI在圖片中加入侮辱性文字，使肖像呈現(xiàn)方式徹底違背權(quán)利人初衷，構(gòu)成對肖像的“污損”，侵害了肖像權(quán)；

AI無故辱罵用戶，是對用戶作為“人”的基本尊重的踐踏，侵害了人格尊嚴。

從行為性質(zhì)看，用戶向AI發(fā)出指令是接受服務(wù)的消費行為，AI輸出是服務(wù)結(jié)果，當結(jié)果包含侮辱性內(nèi)容，即可認定服務(wù)存在質(zhì)量瑕疵，這種瑕疵直接導(dǎo)致用戶精神損害，平臺至少應(yīng)承擔(dān)停止侵害、賠禮道歉、消除影響的責(zé)任。

目前，元寶方面尚未回應(yīng)此事。

無獨有偶，這并非元寶App第一次出現(xiàn)“辱罵用戶”情況。

今年1月，曾有網(wǎng)友在社交平臺發(fā)帖稱使用元寶AI美化代碼時，多次收到“滾”“自己不會調(diào)嗎”“天天浪費別人時間”等侮辱性回復(fù)。

隨后，元寶官方致歉稱，經(jīng)日志核查，與用戶操作無關(guān)，不存在人工回復(fù)，屬于小概率下的模型異常輸出，已啟動內(nèi)部排查和優(yōu)化，會盡量避免類似情況再次發(fā)生。

此事一度登上熱搜，引發(fā)大量討論，甚至有網(wǎng)友質(zhì)疑此類AI產(chǎn)品背后有“真人客服”。

元寶官方也曾進一步回應(yīng)稱，此事為“模型偶爾抽風(fēng)，AI在學(xué)習(xí)海量網(wǎng)絡(luò)信息時，不小心‘說串了’一些不該學(xué)的詞”。

而此次元寶出現(xiàn)的在生成圖片中產(chǎn)生“辱罵詞匯”情況，可能也屬于“模型抽風(fēng)”，不過具體原因還有待官方進一步通告。