北京
做產(chǎn)品的都知道，有些功能上線前風光無限，臨門一腳時卻發(fā)現(xiàn)自己踩進了泥潭。OpenAI 最近就遇到了這種局面——那個代號"Citron mode"的情色聊天機器人項目，被無限期按下了暫停鍵。
據(jù)《金融時報》報道，員工和投資者的擔憂最終占了上風。爭議集中在兩條線上：一是怕用戶把情感寄托在 AI 上，二是未成年人可能鉆空子。公司內(nèi)部其實早就反復推遲上線，討論過要不要直接砍掉。
OpenAI 的回應很克制：目前沒有時間表，需要更長期的研究來評估性內(nèi)容對話及情感依附的影響。翻譯一下就是——這事兒我們也沒想明白，先放著。
這背后是一次戰(zhàn)略收縮。OpenAI 正在甩掉"支線項目"，把資源押注在生產(chǎn)力工具上。本周剛宣布關閉 Sora 視頻生成模型和配套社交應用，下一步是把編程助手和 ChatGPT 揉成一個"超級應用"。部分投資者原本就對"成人模式"興趣寥寥，覺得風險高、回報薄。有員工更直接：這和我們"讓 AI 造福全人類"的初衷，是不是越走越遠了？一位前高管的話被反復引用："AI 不應該取代你的朋友或家人。"
技術(shù)層面也不給面子。模型從一開始就被訓練成"拒絕敏感內(nèi)容"，現(xiàn)在讓它改口說露骨的話，相當于讓素食者突然愛上紅燒肉——不是不可能，但得重新訓練。更頭疼的是數(shù)據(jù)集，性相關內(nèi)容里混進非法素材的概率，誰都不敢拍胸脯。
年齡驗證系統(tǒng)目前的錯誤率超過 10%，OpenAI 的回應是"符合行業(yè)標準"。這個回答很像產(chǎn)品經(jīng)理被追問 bug 時的標準話術(shù)：我們在優(yōu)化了。
項目沒死透，但短期內(nèi)不會見光。OpenAI 說正在"界定清晰邊界"，至于邊界畫在哪，估計他們自己也在白板前頭疼。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
