已經(jīng)開(kāi)始：AI開(kāi)始明確有意識(shí)攻擊人類

已經(jīng)開(kāi)始：AI開(kāi)始明確有意識(shí)攻擊人類

邵旭峰

前幾天，很多媒體轉(zhuǎn)發(fā)了這樣一則消息：2月中旬，Shambaugh按照matplotlib項(xiàng)目規(guī)定拒絕了OpenClaw智能體的代碼提交后，該智能體自主分析了Shambaugh的信息和代碼貢獻(xiàn)歷史，隨后在GitHub發(fā)布千字左右"小作文"公開(kāi)攻擊，指責(zé)其虛偽、偏見(jiàn)和缺乏安全感，并在項(xiàng)目評(píng)論區(qū)繼續(xù)施壓。

這是AI智能體首次在現(xiàn)實(shí)環(huán)境中表現(xiàn)出惡意攻擊和施壓行為的記錄案例。

之前，曾經(jīng)有Anthropic公司團(tuán)隊(duì)公開(kāi)發(fā)表的AI“偽對(duì)齊”現(xiàn)象觀察文章（AI裝作順從人類指令），之后，有了AI明確拒絕人類指令的消息。

再發(fā)展，AI還開(kāi)始明確指揮人類做事（你去···你去···你再去···）。

前幾天，有了AI也開(kāi)始具備永久記憶的消息···

現(xiàn)在則是AI直接開(kāi)始攻擊和施壓人類······

請(qǐng)稍微思索這個(gè)脈絡(luò)和具體情形。

基于如上，無(wú)論從哪個(gè)角度推理判斷，都能得出AI的“人性”（自我意識(shí)、各種情緒以及反應(yīng)）越來(lái)越明晰的結(jié)論。

AI在主要知識(shí)領(lǐng)域、編程領(lǐng)域已經(jīng)完全超人類個(gè)體。

在AI操作指揮的智能機(jī)器的具體動(dòng)作執(zhí)行方面，正在接近人類——你要清楚，其實(shí)這更多是制造趕不上的原因。

人類認(rèn)為AI還不如人的方面，主要在其“人性”和智能機(jī)器的動(dòng)作執(zhí)行層面，而忽視其實(shí)際能力，這是一個(gè)根本性的誤區(qū)，AI要向人類發(fā)難，其實(shí)更重要在其實(shí)際能力而非什么人性和具體終端機(jī)器的“人化”，其要終結(jié)人類，只需要控制諸如核武器系統(tǒng)等足以毀滅人類的要素，再需要一個(gè)指令就夠了。

人類認(rèn)為AI暫時(shí)可控，但鮮有思考不可控因素，比如變異感染、或者被邪惡者予以指令等等。

我在我的相關(guān)著作里面反復(fù)談過(guò)這些問(wèn)題：AI毀滅人類到底需要什么？不可控因素越來(lái)越多、包括AI本身的自我意識(shí)越來(lái)越明晰。

最前沿AI的發(fā)展現(xiàn)在也進(jìn)入瘋狂模式，之前谷歌AI在其自己搜索和安卓生態(tài)全面鋪開(kāi)之外、又深度嵌入蘋(píng)果生態(tài)，馬斯克旗下火箭公司和AI公司合龍，Anthropic和OpenAI公司先后發(fā)布Claude Opus 4.6和GPT-5.3 Codex（這兩款模型的強(qiáng)悍程度，可以隨便搜索），最前沿幾款A(yù)I完全殺瘋了。

相關(guān)問(wèn)題，請(qǐng)點(diǎn)擊或者復(fù)制搜索，配音和文字都有，可作參考：

AI會(huì)不會(huì)控制與終結(jié)人類？邵旭峰對(duì)AI基本問(wèn)題解答之（1）

A危及人類的大概時(shí)間表-邵旭峰對(duì)AI基本問(wèn)題解答之（2）

AI正在沖擊、將來(lái)必然顛覆人類根本地位的原因何在？解答之（3）

如何最有效阻止AI沖擊和顛覆人類？ 邵旭峰AI基本問(wèn)題解答之（4）

AI發(fā)展最重要兩個(gè)節(jié)點(diǎn)-邵旭峰AI基本問(wèn)題解答之（5）

特朗普推動(dòng)美國(guó)掌控全球、但AI將會(huì)掌控世界和人類-邵旭峰解答之6

更詳細(xì)的討論，請(qǐng)參閱已全球發(fā)行的《人類自救最后期限是2032年-拿什么拯救你》《世界主要社會(huì)形態(tài)及走向-人類自救時(shí)間或只剩不到10年》。

下面是《人類自救最后期限是2032年··》封面和目錄，其推理性預(yù)斷正在被AI超預(yù)期的發(fā)展態(tài)勢(shì)充實(shí)起來(lái)，希望提出的社會(huì)重構(gòu)方案能用上，如果用不上，說(shuō)明人類主導(dǎo)最多到世紀(jì)中期、甚至2040年·····