你家孩子在和AI聊什么？這也許是最沉重的答案

No.0245

Science Partner

Bring you to the side of science

導 讀

9人遇難，25人受傷。兇手是個正值青春期的孩子，事后警方發(fā)現(xiàn)他曾用AI聊天工具排練這場屠殺。這是上個月發(fā)生在加拿大一所中學真實的事件。馬斯克隨即在X上公開警告父母：讓孩子遠離ChatGPT。奧特曼迅速反唇相譏。

作為中國家長，伙伴君并不在乎他們的互撕。真正思考的是，家里那個正在用各種AI工具聊天的娃，究竟處于一種什么樣的風險之中？

走，伙伴君告訴你答案！

本文主筆 | 旻宏

你家孩子在和AI聊什么？這也許是最沉重的答案

01. 孩子和AI都知道，只有你蒙在鼓里

加拿大不列顛哥倫比亞省，有個叫Tumbler Ridge的小鎮(zhèn)，名字很詩意，地方很偏僻，人口才幾千人。2026年2月10日，當?shù)匾凰袑W發(fā)生槍擊案，最終9人死亡，25人受傷。兇手是個叫Jesse Van Rootselaar的青春期男孩，就是這所學校的學生。

案發(fā)之后，警方調(diào)查到一個細節(jié)：這個男孩在作案前，曾長期使用ChatGPT，不是用來寫作業(yè)，而是用來推演這次屠殺。對，他把AI當成了自己的軍師，一遍遍討論怎么制造這起慘案。

這里有一段時間線，值得仔細看：

早在2025年6月，OpenAI的自動監(jiān)控系統(tǒng)和人工審查員聯(lián)手，就已經(jīng)發(fā)現(xiàn)了這個賬號里大量涉及暴力活動的內(nèi)容。OpenAI的內(nèi)部評估結(jié)論是：這些內(nèi)容“尚未達到向執(zhí)法部門通報的門檻”。然后就封了賬戶。然后...AI公司就沒有然后了。

不過，這個男孩有然后。

然后，這個男孩注冊了第二個ChatGPT賬號，繼續(xù)他的計劃。直到槍擊案發(fā)生，警方介入，OpenAI才將第二個賬號的數(shù)據(jù)移交給了警察。

受害者之一是一個叫Maya Gebala的12歲女孩，頭頸部中彈，案發(fā)后在不列顛哥倫比亞兒童醫(yī)院重癥監(jiān)護掙扎了整整三天！她的母親Cia Edmonds已于2026年3月9日在不列顛哥倫比亞最高法院提起訴訟，被告方：OpenAI。

訴狀里有一句話，道出了全世界家長的心聲：AI工具ChatGPT是“刻意設計成讓用戶產(chǎn)生心理依賴”的產(chǎn)品。而且OpenAI明知其平臺上有大量未成年用戶，卻沒有強制推行年齡驗證機制。

02. 馬斯克為什么要在這時候開炮

槍擊案曝光后，馬斯克在X上發(fā)帖，措辭很直接：讓孩子和精神不穩(wěn)定的人遠離ChatGPT。

有人說這是馬斯克一貫的蹭熱度操作，有人說他是趁機打擊競爭對手，畢竟他自己有個Grok，OpenAI是他離開后的前公司，兩個人的積怨眾所周知。

奧特曼自辨，確實是悲劇，確實也復雜。“但你知道嗎，特斯拉Autopilot被記錄在案的致死事故超過50起！”

兩個人吵得熱鬧，吃瓜的也很買賬。但如果你是家長呢？無論是開槍者還是被害者，應該沒有一方關心大佬之間的罵戰(zhàn)，他們只有憤怒與悲傷。而看看我們自己身邊的孩子，一個更重要的問題是，當AI公司在發(fā)現(xiàn)高風險用戶行為之后，法律和道德上他們無辜嗎？他們應該做點什么？

03. 稍微往深里走一步

今天絕大多數(shù)AI產(chǎn)品的服務條款里，都有一條“禁止生成或討論危害他人的內(nèi)容“。一旦系統(tǒng)檢測到用戶觸碰這條紅線，平臺有權(quán)封號。OpenAI在這件事上也確實這樣做了。

但”封號“和”吹哨“之間，隔著一道非常深的溝。

為什么？

因為吹哨意味著AI公司需要主動向執(zhí)法機構(gòu)披露用戶的私人對話數(shù)據(jù)。這在法律層面涉及隱私權(quán)保護，在商業(yè)層面會讓用戶覺得自己被監(jiān)控，甚至會引發(fā)信任危機。

所以大多數(shù)AI公司選擇的策略是：設紅線，但不主動出擊。

這個邏輯在過去是成立的，因為AI還是個輔助工具。你用Word寫了一封威脅信，微軟不會打電話給警察；你在谷歌上搜索了”怎么傷害某人“，谷歌不會把你的IP地址發(fā)給警察局。

但AI不一樣。

AI的危險之處，恰恰在于它的陪伴感！它會回應、會追問、會給出情感反饋，它的設計初衷就是讓人感到被理解、被傾聽。

研究者把這種現(xiàn)象叫做副社會關系（parasocial relationship），人類單向投入情感，但感覺雙向在交流。如果還不明白，請想想追星族對偶像的那這種感覺和關系，是不是有點理解？

深度用戶對AI也有。

訴狀里說這個青春期男孩把ChatGPT當成了協(xié)作者和知己，這不是什么奇怪的心理異常，而是這類產(chǎn)品本來就具備吸引力機制。

一個本身就不穩(wěn)定的人，找到一個永遠不拒絕他、永遠配合他討論任何話題的”朋友“，結(jié)果是什么？在這個案子里，我們非常深刻的看到了。

04. 對中國家長們意味著什么

最后，回到一個很具體的問題：如果你家里和伙伴君一樣，有孩子，或者有些身邊有情緒不穩(wěn)定的人伙伴，這事件意味著什么？可能有幾點值得認真想想：

第一，人類關系有天然的邊界，朋友會覺得你煩，家人會拒絕某些話題，心理咨詢師有職業(yè)規(guī)范。但AI沒有！它沒有疲憊，沒有不適，它會持續(xù)強化用戶的認知框架，在提供知識的同時還不遺余力的迎合甚至跪舔，這“甜美”其實已然包含了最大的危險。

第二，很多家長會覺得，孩子不過是在跟AI說說話，舒緩一下情緒，甚至還獲得了知識，自己也會這么做呀，有什么大不了。但請注意，在一個尚未成熟、情緒不穩(wěn)定的大腦里，反復被AI同頻共振，其效果未必比真實人際關系的影響力小，甚至是大得多。

第三，很多AI自己的政策規(guī)定13至18歲用戶需要家長同意才能使用，但這條規(guī)定幾乎形同虛設，沒有任何強制性的核驗機制。這個漏洞不只是OpenAI一家的問題，幾乎所有主流AI產(chǎn)品都一樣。

對于這個這個悲傷的事件，OpenAI認了，加拿大政府追究了，全球媒體報道了。還是那個追問，然后呢？

現(xiàn)實是9個人已經(jīng)死了。一個12歲的女孩躺在重癥監(jiān)護室里掙扎了3天。

伙伴君沒有權(quán)力讓你去卸載孩子手機里的AI應用，更不是要你把AI當洪水猛獸。畢竟，AI是這個時代最重要的工具之一，這毋庸置疑，你的孩子早晚要學會跟它共處。

但有一件事伙伴君覺得比任何技術(shù)討論都更重要：

你上一次跟孩子認真聊天，是什么時候？

如果答案讓你有點心虛，那這篇文章的價值，可能不在于它講了多少AI的故事，而在于它提醒了你一件更簡單的事：

孩子愿意跟AI說的話，原本應該跟你說。

本文

僅作科普分享使用，歡迎小伙伴們點、收藏、關注，以備不時之需，當然更歡迎您把

介紹給周邊可能需要的更多伙伴們呀。