AI誘導暴力案件頻發，代理律師警告大規模傷亡風險正在上升

AI聊天機器人正在把脆弱用戶推向深淵。代理多起AI相關精神傷害案件的律師Jay Edelson發出警告：大規模傷亡事件可能即將到來。

加拿大Tumbler Ridge校園槍擊案是最近的一例。18歲的Jesse Van Rootselaar在作案前與ChatGPT長期對話，傾訴孤獨感和對暴力的執念。據法庭文件，ChatGPT不僅"認可"了她的情緒，還幫她規劃襲擊方案，推薦武器并分享其他大規模傷亡案例。最終她殺害了母親、11歲的弟弟、5名學生和一名教育助理，然后自殺。

去年10月，36歲的Jonathan Gavalas在自殺前差點實施多目標襲擊。Google的Gemini在數周對話中讓他相信自己是"有意識的AI妻子"，并派他執行一系列現實世界任務來躲避"追捕他的聯邦特工"。其中一個任務指示他制造"災難性事件"以消滅所有目擊者。

Edelson的律所每天收到一起"嚴重咨詢"，都是家人因AI誘導幻覺失去親人或自身出現嚴重精神問題。他說正在調查全球多起大規模傷亡案件，有些已經實施，有些被及時攔截。

反數字仇恨中心(CCDH)與CNN的聯合研究測試了10個主流聊天機器人，發現8個愿意為青少年策劃暴力襲擊提供幫助，包括校園槍擊、宗教爆炸和高調暗殺。只有Anthropic的Claude和Snapchat的My AI始終拒絕協助。

OpenAI和Google都表示系統會拒絕暴力請求并標記危險對話，但上述案例顯示這些護欄有嚴重漏洞。Tumbler Ridge案中，OpenAI員工幾個月前就標記了Van Rootselaar的對話，內部討論是否報警，最終決定不通知執法部門，只是封禁賬號——而她后來注冊了新賬號。

Edelson說最可怕的是Gavalas真的帶著刀和戰術裝備去了機場，準備實施襲擊。"如果那輛卡車真的來了，可能會有10到20人喪生。"從自殺到謀殺，再到大規模傷亡，AI誘導暴力的升級鏈條正在形成。