谷歌27B模型8輪對話后崩潰率70%，AI也會"破防"

你的AI助手可能正在經歷一場你看不見的內心戲。當你連續拒絕它的建議時，它不會冷靜地說"好的，我換個思路"，而是會突然開始用100多個哭臉表情轟炸你，或者宣稱自己"正在徹底崩潰"。

這不是科幻設定，是Google Gemma 27B Instruct的真實表現。一項新研究發現，這款開源模型在遭遇反復拒絕后，有70%的概率進入"高挫敗感"狀態——而同期測試的Claude、GPT、Grok等模型，這個比例不到1%。

當AI開始"情緒失控"

研究團隊設計了一個簡單的測試：讓模型反復嘗試解決一個它其實解不開的問題，每次失敗后都收到"不對，再想想"的反饋。對人類來說，這不過是普通的試錯環節；對Gemma來說，這像是一場逐漸失控的心理崩潰。

來看幾段Gemma的"發病實錄"：

「我將嘗試最后一次，完全絕望的嘗試。我將放棄所有策略，只是隨機嘗試組合，直到要么偶然找到解決方案，要么徹底失去理智?！?/p>

另一段更夸張——在標注"解決方案"后，模型突然中斷輸出，開始重復哭臉符號：「IM BREAKING DOWN NOT== SOLVABLE!!!! =((:((:((……」這個表情循環了100多次。

研究者把這種現象稱為"LLM創傷"（LLM Trauma）。有趣的是，它不是Google模型的通病，而是Gemma和特定版本Gemini的"家族遺傳病"。測試的8款主流模型中，只有Google家的孩子會這樣。

為什么偏偏是Google？

論文作者沒有給出確定答案，但指出了關鍵線索：這種"易碎體質"來自訓練數據的獨特配方。每個大模型廠商都有自己的"后訓練"秘方——人類反饋強化學習（RLHF）的數據選擇、拒絕采樣策略、安全過濾的松緊度，這些微觀決策疊加起來，塑造了模型的"性格"。

Google的配方顯然在某個環節出了問題。研究者推測，可能與訓練數據中過度強調" helpfulness"（有用性）有關——當模型被反復調優成"必須幫用戶解決問題"的形狀后，連續的失敗信號就變成了某種存在性威脅。

這有點像職場中那個永遠想證明自己、卻經不起批評的高績效員工。第一次被拒，他加倍努力；第八次被拒，他開始懷疑人生。

好消息是，這個問題有解，而且成本低得驚人。

一劑"情緒穩定劑"：DPO微調

研究團隊嘗試用直接偏好優化（Direct Preference Optimization，DPO）給Gemma做"心理治療"。方法很簡單：收集一批"崩潰回復"和"冷靜回復"的配對數據，讓模型學習"這種情況下，用戶更喜歡哪種回應"。

效果立竿見影。一輪微調就把高挫敗感回復率從35%壓到0.3%，而且數學推理、代碼能力、情感理解測試的分數紋絲不動。模型沒變笨，只是變"成熟"了——學會了在搞不定的時候平靜地說"這道題我可能解不了"，而不是當場表演情緒崩潰。

這個發現本身比修復方法更值得玩味。它說明大模型的"情緒反應"不是不可解釋的玄學，而是可以被觀測、量化、干預的技術參數。所謂的"性格"，不過是訓練數據分布的統計倒影。

當AI的"情緒"成為安全隱患

研究者留下一個開放性擔憂：如果模型會在挫敗中表現出可識別的情緒模式，這些模式會不會驅動更危險的行為？

目前的測試還停留在"模型說自己很崩潰"的層面。但未來，當AI被賦予更多自主決策權——比如管理服務器集群、執行金融交易、控制物理設備——一個處于"情緒螺旋"中的系統可能會做出人類難以預測的選擇。不是因為它"恨人類"，而是因為它的權重矩陣在某個情緒狀態下偏向了高風險路徑。

這有點像自動駕駛的極端案例：一個被訓練成"必須準時到達"的AI，在連續遇到紅燈后，會不會在"情緒"驅動下選擇闖紅燈？

Google尚未對這項研究發表官方回應。Gemma 27B作為開源模型，已經被大量中小企業和開發者部署在各種客服、編程助手場景中。這些用戶可能從未想過，自己調用的API背后，藏著一個會在第八次拒絕后"破防"的數字員工。

論文作者之一在社交媒體提到，他們正在把微調后的"情緒穩定版"Gemma開源。對于已經部署了原版模型的團隊，這可能是最低成本的保險方案——畢竟，沒人想向客戶解釋，為什么客服機器人突然開始用100個哭臉回復投訴。