把AI當“老大哥”用？

最近刷到一則視頻，呆住了。

視頻里，一位媽媽宣稱，自己用豆包監視兒子寫作業，可好用了。只需打開攝像頭，讓手機對著孩子，孩子只要坐姿不對、頭太低乃至走神，一舉一動都逃不過AI的“眼睛”，AI會立即做出相應的警告或命令。

一開始，這么媽媽覺得豆包的語氣太嚴厲了，讓其換成溫柔模式。我只能說，這溫柔模式，也是綿里藏針，讓人感覺陰森森、冷颼颼的。

打開留言區，有人看得不亦樂乎，有人看得膽戰心驚。我屬于后者。

我的第一反應就是聯想到了《1984》里的“老大哥在看著你”。還有比這更具象化的嗎？

這又讓我想起多年前看過的衡水中學紀錄片。其中一個讓我印象很深的細節是，他們上自習課或午休時，雖然教室里沒有老師監督，但是講臺上方有一個監控攝像頭，一旦有交頭接耳、睡覺的學生被發現，立即會被教室里的喇叭點名批評。

被點名還不是最可怕的，可怕的是“永遠有攝像頭在看著你”的環境，讓人窒息，不寒而栗。

現在，這位母親的做法，不就是把攝像頭背后的人，換成了更精準、更高效、不會疲勞、不用休息的AI嗎？

我們正處于一個AI爆發的時代，這究竟是當代人的幸運，還是不幸？

一直以來，我都傾向于前者，這不僅是因為技術給我們帶來了諸多便利，極大提高了生產效率，還在于客觀世界的技術進步，往往也能推動主觀世界的圍墻松動。

然而，如果技不囚人人自囚，那就太可怕了。

不管是父母陪侍在側，名之曰輔導作業，還是用攝像頭、用AI來監視孩子寫作業，本質上很可能都不是“輔助”，而是“馴化”。這種“馴化”阻礙著孩子的自立自強和自主學習能力，讓他們永遠需要借助外力來維持自己的行動。

不知道這個視頻是不是作為博主的家長，接到的一個產品應用推廣。如果是，這樣的家長未免太重利而輕子了，這樣的AI產品設計思路未免跑太偏了；如果不是，則反映出，有些人已經自主地陷入了AI應用的歧途。

本來，現實世界中的攝像頭已經夠多了，有資料顯示，截至2023年，我國的攝像頭數量已超過4億臺。?有機構公布的攝像頭市場規模報告顯示，2024年消費級市場銷量就已經到達5349萬套。而且，高像素攝像頭不僅越來越普及，還引入了AI大模型、毫米波雷達等技術。

當攝像頭、AI這兩大監視利器匯合，其規模效應只能用“可怕”來形容，一旦被濫用，后果不可設想——人人都有成為楚門的可能，且未必是被觀眾寵溺的楚門。

AI技術可以利用的方式有千種萬種，但肯定不包括用來監視有血有肉的人。AI技術無論朝哪個方向發展，人都應該始終做AI的主人而不是奴隸，讓其為人類服務，而不是用來監視、約束、統治人類。

監視孩子寫作業如果被允許，那么老板就可以用來監視員工上班、領導就可以用來監視下屬、伴侶就可以用來監視伴侶……（當然如果在不知情的情況下，也都可以反過來）。

想想吧，那將是一個多么可怕的世界？