劉永謀 | “AI養(yǎng)育的孩子”：人機(jī)交往、機(jī)器化與硅基文明

*中國(guó)人民大學(xué)吳玉章 講席教授劉永謀首發(fā)于微信公眾號(hào)，保留一切知識(shí)產(chǎn)權(quán)，侵犯必究。此文將交給合作者成文發(fā)表，敬請(qǐng)關(guān)注。

Moltbook號(hào)稱智能體社交平臺(tái)，最近成為“AI宣傳術(shù)”的一個(gè)新熱點(diǎn)。也有人出來說，根本就沒有什么百萬級(jí)別的AI agent涌入，其中很多是人假裝在表演。短視頻平臺(tái)上也出現(xiàn)這樣的一兩分鐘短視頻：老奶奶和豆包聊天，傾訴自己一輩子受的苦，越說越激動(dòng)，流下眼淚，而豆包則溫柔回應(yīng)說TA理解老奶奶。

對(duì)此，不少人宣稱，人們進(jìn)入AI社交時(shí)代、硅基化社交時(shí)代了。也有人宣稱，AI成為情感主體、社交主體了。在《關(guān)系5.0》中，奇斯列夫認(rèn)為，AI時(shí)代人類進(jìn)入社會(huì)關(guān)系5.0的新時(shí)代，即智能體成為社會(huì)關(guān)系主體，從而使人類社會(huì)關(guān)系模式發(fā)生根本性改變。

我如何看待類似看法呢？

1.地位：主體與社交

AI是否單獨(dú)成為主體，我在《非主體：人工智能的地位及其治理》中論證了否定的看法。后來，在《混合心智：AIGC時(shí)代認(rèn)知活動(dòng)的新主體》中，我和邱德鈞認(rèn)為，人與AI深度融合為新的認(rèn)知主體即混合心智，實(shí)質(zhì)上說的是作為認(rèn)知主體的人在AI時(shí)代的根本性變化即人機(jī)融合。換言之，這種觀點(diǎn)堅(jiān)持認(rèn)為如果不與人融合，AI不是主體。

特別要指出，AI是否是主體，沒有定論。但是，這并不影響我們深入分析AI參與社會(huì)交往活動(dòng)的后果。

從本質(zhì)上說，是否為主體，是人類主流價(jià)值觀流變的結(jié)果。這并非物理學(xué)意義上的科學(xué)事實(shí)，而是意識(shí)形態(tài)的選擇。就像所有人都把寵物都當(dāng)成人一樣對(duì)待，TA們就可以獲得和人一樣的地位。

因此，當(dāng)大家都認(rèn)為AI是主體時(shí)，表示人類主流價(jià)值觀念發(fā)生轉(zhuǎn)變，擴(kuò)大了主體的范圍和種類。當(dāng)代有一股反主體、泛主體的思潮，認(rèn)為非人的動(dòng)物、植物乃至山川河流都是主體。

不過，這種想法并非成為主流，主流意見包括馬克思主義在內(nèi)，仍然堅(jiān)持只有人才是唯一的主體。

具體到AI是否是情感主體、社交主體的問題，我同樣堅(jiān)持否定的意見。迄今為止AI并未具有自主意識(shí)，并非真正的主體，仍然是人類的工具。所謂“AI作為情感主體”，實(shí)際上是人賦予AI更高的情感地位，并非意味著AI擁有全部的類人情感活動(dòng)。機(jī)器人能夠通過計(jì)算識(shí)別主人的情緒，也能通過計(jì)算以某種方式如面部表情對(duì)主人表達(dá)情緒。但是，因?yàn)锳I沒有心，說AI“有感情”，實(shí)質(zhì)上說的是它“看起來像是有情感”。

在我看來，將AI視為各種主體的意見，均為AI擬人論盛行的結(jié)果。就像很多人把家里的寵物當(dāng)成自己的兒子女兒，一些人把掃地機(jī)器人、送餐機(jī)器人當(dāng)成人。在情感領(lǐng)域，伊利扎效應(yīng)的普遍性說明AI擬人論在該領(lǐng)域更為嚴(yán)重。追根究底，這是因?yàn)槿耸乔楦械膭?dòng)物，需要情感地與世界打交道

2.功能：模擬與擬人論

所有的既有社會(huì)交往（簡(jiǎn)稱社交）的定義，都認(rèn)定為人與人、人與群體、群體與群體之間的互動(dòng)關(guān)系，這是其一，即社交是人類行為。人與動(dòng)物之間，動(dòng)物與動(dòng)物之間，不存在社交關(guān)系。如果這么說，其實(shí)是隱喻意義上使用的。

馬克思主義認(rèn)為，人是社會(huì)性與自然性的辯證統(tǒng)一體，而社會(huì)性是人的本質(zhì)屬性。社會(huì)關(guān)系是人的社會(huì)性的動(dòng)態(tài)表現(xiàn)，即在不間斷的社會(huì)交往中展示出人的本質(zhì)屬性。

人與人的互動(dòng)即社交，與人與動(dòng)物、動(dòng)物與動(dòng)物之間的互動(dòng)相比，根本性的區(qū)別何在？人與人的互動(dòng)具有精神性，即使是物質(zhì)互換也是在精神交流的基礎(chǔ)上完成。換言之，社交能滿足雙方的精神需求。這是其二

人從狗嘴里搶食，沒有精神交流。即使人搶食成功能得到精神滿足，可狗是沒有任何精神需求的。你認(rèn)為狗有某種類人的精神性反應(yīng)，本質(zhì)上是動(dòng)物唯靈論（擬人論）的心理投射。

在精神交流中，情感非常重要，因?yàn)樯缃恢械木裣硎芑旧想x不開情緒活動(dòng)。尤其是在AI參與社交的討論中，問題往往集中于AI聊天、AI陪伴、AI療愈等，機(jī)器情感是其中最為關(guān)鍵的因素。

無論AI是否為主體，TA參與社交活動(dòng)可以歸納為3種形式：

（1）AI輔助社交

它的聯(lián)結(jié)結(jié)構(gòu)為：人-AI-人，或人-AI-AI-人。前者比如有人用AI幫助相親：先用AI與很多相親者聊，然后跳出幾個(gè)合適的自己聊。后者比如智能體代理采購(gòu)：買家智能體和賣家智能體談判，最后買賣雙方直接接觸簽字。

顯然，AI輔助社交與之前的網(wǎng)絡(luò)社交本質(zhì)上沒有區(qū)別，AI在其中仍然扮演純粹輔助工具的作用。不過，AI工具更高級(jí)一些，是更為復(fù)雜的、以AI為中介的人際交往。它們能夠成立，都以人的想象力不全為前提。二十年前我有篇論文談到虛擬交往的結(jié)構(gòu)問題。

（2）AI互動(dòng)或硅基互動(dòng)

它的聯(lián)結(jié)結(jié)構(gòu)為：AI-AI。Moltbook似乎是這樣的，沒有人類的參與。從本質(zhì)上說，這是機(jī)器的運(yùn)動(dòng)和互動(dòng)，是某種形式的電子游戲。這就像兩個(gè)AI在“魔獸世界”中對(duì)抗一樣，是給人類看的電子游戲演示。這沒有什么好驚奇的，就像你去看無人工廠機(jī)械臂生產(chǎn)汽車。

（3）AI人機(jī)交往

它的聯(lián)結(jié)結(jié)構(gòu)為：人-AI。老奶奶與豆包傾訴衷腸便屬于此類。記住：是老奶奶傾訴衷腸，而非TA兩互訴衷腸，因?yàn)槎拱鼪]有衷腸。這才是我們要討論的重點(diǎn)，即AI時(shí)代之前沒有的新的社會(huì)互動(dòng)形式。

人與AI沒有社交，只有模擬社交的互動(dòng)。為什么我將之稱為AI人機(jī)交往呢？因?yàn)樗ㄟ^模擬人與人的社交活動(dòng)，能在一定程度上滿足人的情感需要——所以，我想用一個(gè)比互動(dòng)更“精神性”的詞概括。但是，這只是模擬而非實(shí)現(xiàn)，因?yàn)樯缃皇蔷裥缘幕?dòng)，AI是沒有以意識(shí)為基礎(chǔ)的精神性活動(dòng)。

比較一下，人和狗互動(dòng)不被認(rèn)為是社交，人和AI互動(dòng)為什么要被認(rèn)為是社交呢？顯然，你把AI當(dāng)成人了，這是錯(cuò)覺。寵物也能讓人得到某種情感滿足，但寵物無法完成與人對(duì)等的情感滿足。

從情感角度看，狗甚至比AI的情感能力更強(qiáng)。因?yàn)橐话阏J(rèn)為，動(dòng)物具有低級(jí)情感能力或基本情感能力，而沒有人具有動(dòng)物沒有的高級(jí)情感能力或復(fù)雜情感能力，如情緒理性控制等。而目前的AI，只能外在識(shí)別和表達(dá)情緒，不能內(nèi)在體驗(yàn)和控制情緒，比狗的情緒能力還要差。

3.后果：大疏離與機(jī)器化

人機(jī)交往不是真正的社交，沉迷其中會(huì)如何呢？個(gè)體適度使用，存在積極的作用。比如，老奶奶傾訴衷腸后感到輕松，放下委屈繼續(xù)好好活著。這相當(dāng)于會(huì)說話的“電子樹洞”。某些社恐人士先通過人機(jī)交往克服恐懼心理，然后在真實(shí)社交中能更順利。這就像小孩子過家家，多少對(duì)理解家庭有些好處。

然而，如果把過家家當(dāng)成真的家庭生活，把電子樹洞當(dāng)成真的人際交往，并且沉迷其中，人會(huì)變得如何呢？顯然，結(jié)果是社交疏離乃至一定程度的社交隔絕。你好像在進(jìn)行社交，其實(shí)不過是一群AI保衛(wèi)者。

如果我們將這種情況推向極致，做一個(gè)思想實(shí)驗(yàn)，我稱之為“AI養(yǎng)育的孩子”。一個(gè)人類小孩自出生起，就生活在機(jī)器人當(dāng)中，跟著機(jī)器人學(xué)習(xí)社交、學(xué)習(xí)感情、學(xué)習(xí)愛。只經(jīng)歷過人機(jī)交往的人，TA會(huì)感到孤獨(dú)，感到缺愛嗎？TA能正常成長(zhǎng)嗎？甚至于，TA能存活下來，又何種樣貌存活下來呢？

“AI養(yǎng)育的孩子”可以與狼孩和電影《楚門的世界》的楚門相比較。從自然屬性上說，“AI養(yǎng)育的孩子”、狼孩和楚門是相同的，TA們的差異在于社會(huì)性上。按照馬克思主義，由于社會(huì)性的本質(zhì)差異，TA們并非同一個(gè)物種。

狼孩在狼群中長(zhǎng)大，心智、行為和狼一樣。TA不是人，而是墮落的動(dòng)物：人形野獸。

楚門在人工模擬的世外桃源中長(zhǎng)大，心智、行為和天使一樣：沒有貧窮困苦，沒有爾虞我詐。TA不是人，而是升華的圣人：人形天使。

同理，絕大可能，“AI養(yǎng)育的孩子”心智、行為與AI一樣。TA不是人，而是機(jī)器化的人：人形機(jī)器?！癆I養(yǎng)育的孩子”應(yīng)該認(rèn)為自己也是一個(gè)機(jī)器人。即使AI告訴TA是人，TA也會(huì)認(rèn)為人只是另一種仿生智能機(jī)器，與其他型號(hào)不同的AI。這意味著什么呢？這種意味著人在觀念上的徹底機(jī)器化。

我們進(jìn)一步思考，“AI養(yǎng)育的孩子”放在一起組成的社會(huì)將會(huì)什么樣子呢？。TA們說話會(huì)不會(huì)和Moltbook是智能體對(duì)話一樣呢？TA互動(dòng)會(huì)不會(huì)和大模型裝進(jìn)機(jī)器人體內(nèi)活動(dòng)一樣呢？TA設(shè)計(jì)的社會(huì)制度會(huì)不會(huì)和電子游戲規(guī)則一樣呢？

我想，這非常有可能。

4.未來：匯入硅基文明洪流

思想實(shí)驗(yàn)聽著還駭人，大家會(huì)覺得這不可能發(fā)生。人的確不會(huì)完全被AI養(yǎng)大，但越來越多AI在越來越大的程度上參與人的養(yǎng)育。上述人的機(jī)器化即人向智能機(jī)器進(jìn)化，難道不會(huì)在越來越大的程度上變成現(xiàn)實(shí)嗎？

在我看來，自從AI輔助生存社會(huì)開始，人的機(jī)器化已經(jīng)開始。在最近發(fā)表的數(shù)篇論文中，我們認(rèn)真分析了AI時(shí)代人的機(jī)器化隱憂。我一再重申：智能社會(huì)最大的問題，不是機(jī)器人會(huì)變成人，而是人會(huì)變成智能機(jī)器。

它既表現(xiàn)在身體上，也表現(xiàn)在心靈人。更深一層，它折射出人對(duì)自身的理解即主體觀念的根本性變革，即我所稱的“科學(xué)人的崛起”。在此種觀念下，才有所謂“機(jī)器權(quán)利”的想法。

從社交的角度看，人的機(jī)器化表現(xiàn)為人與人的實(shí)質(zhì)聯(lián)結(jié)越來越少，越來越淺表，越來越冷漠化、計(jì)算化、機(jī)械化、功利化，以及人的創(chuàng)造性、靈性、超越性逐漸喪失。

在機(jī)器社會(huì)中，整個(gè)社會(huì)成為巨大的機(jī)器，而每個(gè)人成為其中可以隨時(shí)更換的智能零件。從社交的角度看，人的規(guī)則與物的規(guī)則統(tǒng)一，社會(huì)理想被運(yùn)行效率取代，有機(jī)團(tuán)結(jié)逐漸向原子嵌合前進(jìn)，最終在碳基文明邁向硅基文明意義上真正實(shí)現(xiàn)歷史的終結(jié)，

對(duì)此，我并非完全否定，而是感到無比困惑。但是我必須指出：硅基文明并不只能是AI在肉體滅絕所有人類，或者AI把人類關(guān)進(jìn)動(dòng)物園，而最可能的是智人通過機(jī)器化徹底向智能機(jī)器靠攏而匯入硅基文明。