財聯社3月27日訊(編輯 牛占林)OpenAI已無限期擱置在ChatGPT中推出“成人模式”的計劃,并將戰(zhàn)略重心重新聚焦于核心產品。此前,公司內部員工及投資者對“AI色情內容”可能帶來的社會影響表達了擔憂。
據多位知情人士透露,OpenAI首席執(zhí)行官奧爾特曼原本已因內部討論而推遲其所謂“成人模式”的發(fā)布,目前甚至在考慮是否徹底取消該計劃。
實際上,該功能的上線已被推遲過一次,從原定的12月推遲至今年第一季度。目前,ChatGPT的用戶規(guī)模已超過9億人。
隨著外界擔憂升溫,這一情色聊天機器人項目面臨越來越多反對聲音,包括其可能加劇用戶對AI的情感依賴,以及使未成年人接觸不當性內容的風險。
OpenAI方面也確認,該成人模式目前已被擱置,且沒有明確的推出時間表。這家估值達7300億美元的AI公司表示,希望在產品開發(fā)過程中開展長期研究,評估性相關對話和情感依附的影響,并承認目前尚缺乏相關的“實證證據”。
這一決定也標志著OpenAI進一步放棄公司高管所稱的“支線任務”,轉而集中資源打造生產力工具,推動將編程助手、ChatGPT等產品整合為一個“超級應用”。
值得注意的是,將停止運營其曾風靡一時的Sora AI視頻應用。該公司表示,此舉旨在聚焦業(yè)務重心,并優(yōu)化人力與算力資源配置。
在當前背景下,該成人模式尤為敏感。與此同時,包括Meta在內的社交媒體公司正因其產品對未成年人的潛在傷害面臨法律追責。
此前,馬斯克旗下的xAI曾大力推動成人內容以吸引用戶,但其Grok模型因生成包括未成年人在內的真實人物虛假性圖像而引發(fā)了全球范圍的強烈反對。
這一矛盾凸顯出OpenAI所面臨的雙重壓力:一方面需要在激烈競爭中提升用戶活躍度、開辟增長空間;另一方面又必須應對倫理與聲譽風險,尤其是在產品逐漸模糊工具屬性與情感依賴邊界的情況下。
據兩位知情人士稱,OpenAI涉足成人模式的嘗試曾引發(fā)部分投資者不安,因為此類產品風險較高、商業(yè)回報卻相對有限。
此外,該項目也在員工內部引發(fā)爭議,一些人質疑,推動鼓勵“類戀愛用途”的產品,是否背離公司“讓AI造福全人類”的初衷。
一位前高級員工表示:“AI不應取代你的朋友或家人,人類之間的真實連接才是關鍵。”該人士稱,這一問題也是其離職原因之一。
除社會影響方面的擔憂外,該項目在技術層面也面臨挑戰(zhàn)。知情人士稱,OpenAI在訓練模型方面遇到困難——這些模型此前出于安全考慮被設計為回避相關內容,如今卻需要生成明確的性內容。此外,使用包含性內容的數據集也帶來問題,例如需要剔除非法行為等。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.