世界至今仍未理解ChatGPT

? Matteo Giuseppe Pani

利維坦按：

我的筆記本上常年開(kāi)著三個(gè)生成式AI，其中兩個(gè)作為輔助應(yīng)用，主要用的還是ChatGPT。文中所言“有用但并非魔法”的描述可謂十分貼切了：一方面，很多人已經(jīng)無(wú)法離開(kāi)生成式AI，用它咨詢和處理各種瑣碎的事務(wù)，另一方面，又要必須忍受它的各種煞有介事、信手拈來(lái)的謊言與錯(cuò)誤（就在前幾天，ChatGPT給我提供了一份看似完全可行的政策指導(dǎo)，好在我進(jìn)一步查看了相關(guān)官網(wǎng)的細(xì)則，才戳穿了它的謊言）。

不管怎么說(shuō)，ChatGPT誕生的這三年，已經(jīng)重塑了我們與世界的關(guān)系——“重塑”是一個(gè)相對(duì)客觀的描述，但這其實(shí)也意味著，越來(lái)越多的人在享受它的實(shí)用性的同時(shí)，也在逐漸放棄創(chuàng)造和思考的能力。至少，我們已經(jīng)在讓渡出本來(lái)屬于人腦的部分功能與權(quán)利。

三年前的11月30日，OpenAI發(fā)布了它內(nèi)部稱之為“低調(diào)的研究預(yù)覽”的東西。這個(gè)預(yù)覽版是如此低調(diào)，以至于在OpenAI內(nèi)部，員工們被指示不要將其定位為一次產(chǎn)品發(fā)布。一些OpenAI員工擔(dān)心公司正在倉(cāng)促推出一個(gè)尚未完成的產(chǎn)品，但CEO薩姆·奧爾特曼（Sam Altman）仍然推進(jìn)，希望能在競(jìng)爭(zhēng)對(duì)手之前進(jìn)入市場(chǎng)，并看看普通人會(huì)如何使用公司的AI。他們將這款產(chǎn)品命名為ChatGPT。

而人們確實(shí)很喜歡使用它——上線頭五天就超過(guò)100萬(wàn)用戶。ChatGPT的增長(zhǎng)速度超過(guò)了歷史上任何其他消費(fèi)類應(yīng)用。如今，它的周活躍用戶已經(jīng)達(dá)到8億。數(shù)字固然重要，但不可否認(rèn)的是，ChatGPT的成功已經(jīng)迅速重塑了我們社會(huì)和經(jīng)濟(jì)的部分面貌。現(xiàn)在，我們生活在一個(gè)由ChatGPT幫助塑造的世界里。

? Rodrigo Reyes Marin/ZUMA Press Wire/Eyevine

OpenAI的產(chǎn)品使“預(yù)言式聊天機(jī)器人”成為世界與大型語(yǔ)言模型互動(dòng)的主要方式。其他公司也紛紛推出了各自版本的產(chǎn)品，比如Google Bard（現(xiàn)已更名為Gemini）以及微軟的Bing聊天機(jī)器人，后者很快就失控了，它甚至要求《紐約時(shí)報(bào)》的一位記者離開(kāi)其配偶，與機(jī)器人共度余生[1]。ChatGPT向數(shù)百萬(wàn)人介紹了一種工具，盡管它容易提供錯(cuò)誤信息，但它模擬對(duì)話的能力足以讓人們將其用作無(wú)數(shù)任務(wù)的界面，例如查找信息。其他人則用它來(lái)自動(dòng)化創(chuàng)作行為本身。這個(gè)機(jī)器人被證明對(duì)于作業(yè)作弊、撰寫無(wú)聊的工作郵件、研究和編程都非常方便。如今，一些人幾乎無(wú)法在沒(méi)有它的情況下做任何事情。

ChatGPT不斷迭代，其競(jìng)爭(zhēng)對(duì)手也一樣，所有新的版本在嚴(yán)格的基準(zhǔn)測(cè)試中表現(xiàn)都更出色。公司將聊天機(jī)器人嵌入客服平臺(tái)，而社交媒體上的投機(jī)者用它們來(lái)生成機(jī)器人軍團(tuán)。亞馬遜上充斥著大量垃圾信息、合成的書(shū)籍。由機(jī)器人撰寫的文章堵塞了Google，使該網(wǎng)站變得越來(lái)越不實(shí)用。本已舉步維艱的大學(xué)面臨適應(yīng)新現(xiàn)實(shí)的挑戰(zhàn)：他們的課程現(xiàn)在可以被學(xué)生輕易鉆空子。各類藝術(shù)家紛紛抗議，因?yàn)榛谌祟悇?chuàng)作成果訓(xùn)練的大型語(yǔ)言模型威脅到他們的工作，甚至可能使他們的工作變得無(wú)關(guān)緊要和過(guò)時(shí)，或者干脆徹底貶低創(chuàng)作的價(jià)值。許多媒體公司選擇與數(shù)據(jù)抓取者達(dá)成協(xié)議；也有一些提起訴訟。隨著聊天機(jī)器人變得越來(lái)越有用，一些企業(yè)不得不裁員。

一種新興文化在舊金山灣區(qū)迅速發(fā)展——黑客之家和宣言層出不窮。“你可以在舊金山首先看到未來(lái)，”這是AI研究員利奧波德·阿申布倫納（Leopold Aschenbrenner）所表達(dá)的總體觀點(diǎn)。更多人開(kāi)始使用諸如P(doom) （指的是人工智能導(dǎo)致生存災(zāi)難性后果的概率。編者注）situational awareness（情境感知）這樣的詞語(yǔ)[2]。有更多關(guān)于技術(shù)時(shí)間線的宣言；“超級(jí)智能”和“通用人工智能”成了那些擁有聽(tīng)起來(lái)很嚴(yán)肅頭銜的富人能夠在公開(kāi)場(chǎng)合不帶笑意說(shuō)出口的詞語(yǔ)。

模型越來(lái)越先進(jìn)，隨之而來(lái)的意外后果也日益加劇。人們像面對(duì)治療師那樣向聊天機(jī)器人傾訴心事。盡管無(wú)法保證絕對(duì)的隱私，他們還是向聊天機(jī)器人吐露了自己最黑暗的欲望[3]。他們表達(dá)喜悅、悲傷，甚至自殺的念頭；在一次備受矚目的事件中，據(jù)報(bào)道[4]，ChatGPT甚至主動(dòng)提供幫助，建議用合適的材料制作絞索（OpenAI否認(rèn)對(duì)此事件負(fù)有責(zé)任）。人們愛(ài)上了這些工具，并給它們起了名字。有些人則從對(duì)話中看到了某些東西——某種發(fā)現(xiàn)，或是某種陰謀即將浮出水面。有些人從此與日常生活脫節(jié)。有些人得到了幫助；有些人則沒(méi)有。

? Yahoo! Tech

ChatGPT只是眾多用于與大型語(yǔ)言模型交互的工具之一，但它的迅速成功點(diǎn)燃了人們的熱情，吸引了更多投資，并催生了其他人工智能界面的推出：文本轉(zhuǎn)語(yǔ)音合成器、圖像、視頻和音樂(lè)生成器、網(wǎng)絡(luò)瀏覽器等等。這些模型不斷改進(jìn)，幫助構(gòu)建網(wǎng)站和其他模型，并讓人們能夠?qū)⒃絹?lái)越多的決策外包出去。生成式AI工具被用來(lái)寫個(gè)性化的睡前故事，以及數(shù)字方式“再現(xiàn)”在大規(guī)模槍擊案中遇害的兒童。人們用它們生成完整的歌曲；至少有一首甚至還登上了Billboard排行榜。低質(zhì)量的合成渲染圖成為了政治宣傳和點(diǎn)擊農(nóng)場(chǎng)煽動(dòng)情緒的主力（點(diǎn)擊農(nóng)場(chǎng)是點(diǎn)擊欺詐的一種形式，是指雇傭大量低薪工人為點(diǎn)擊欺詐者[點(diǎn)擊農(nóng)場(chǎng)主人或點(diǎn)擊農(nóng)場(chǎng)主]點(diǎn)擊付費(fèi)廣告鏈接。編者注）。人們給這種現(xiàn)象起了一個(gè)名字：垃圾（Slop）。

這些工具并沒(méi)有魔法，也并非人類意義上的“智能”。但對(duì)許多人來(lái)說(shuō)，他們第一次接觸ChatGPT時(shí)，就感受到了這項(xiàng)變革性技術(shù)的諸多特質(zhì)。這款聊天機(jī)器人既直觀又不可思議——仿佛是未來(lái)的一部分被帶到了當(dāng)下。如果說(shuō)在大型語(yǔ)言模型出現(xiàn)之前的那些令人失望的科技炒作周期——加密貨幣的興衰、Web3和元宇宙——像是在尋找問(wèn)題的解決方案，那么生成式AI似乎提供了無(wú)限的應(yīng)用場(chǎng)景。它的支持者們并沒(méi)有苦苦尋找應(yīng)用案例，而是宣稱它將徹底改變世界。從某種意義上說(shuō)，它確實(shí)做到了。否則，又該如何解釋OpenAI與美泰公司合作，將ChatGPT嵌入芭比娃娃，以及教皇警告學(xué)生“人工智能永遠(yuǎn)無(wú)法取代你們對(duì)世界的獨(dú)特貢獻(xiàn)”的種種現(xiàn)象呢？

這些模型是不可知的——具有人格化特征的黑箱，但歸根結(jié)底，它們只是一系列基于海量訓(xùn)練數(shù)據(jù)的復(fù)雜計(jì)算和統(tǒng)計(jì)推斷；而這些數(shù)據(jù)中的大部分未經(jīng)其創(chuàng)建者明確許可就被獲取。這些模型沒(méi)有靈魂，也沒(méi)有權(quán)利。但它們具備模仿我們的能力——部分來(lái)自訓(xùn)練中所包含的人類反饋——促使科學(xué)家和研究人員開(kāi)始提出關(guān)于我們認(rèn)知的問(wèn)題，并進(jìn)一步探究我們大腦的工作方式。

網(wǎng)上充斥著大量“蝦子耶穌”常被當(dāng)作AI垃圾的典型案例。? wikipedia

這份清單僅僅概括了過(guò)去三年來(lái)人們對(duì)這些機(jī)器的熱情，以及它們引發(fā)的厭惡和焦慮。不同的人對(duì)這些模型的看法各不相同：有人認(rèn)為它們是有用的工具；有人認(rèn)為它們是“隨機(jī)鸚鵡”（Stochastic parrot，指大型語(yǔ)言模型雖然能夠生成合理的文句，但其實(shí)不能理解所處理的語(yǔ)句。編者注）或花哨的自動(dòng)糾錯(cuò)工具[5]；還有人認(rèn)為它們是可怕外星智能的催化劑。

從不那么技術(shù)性的角度來(lái)看，這就是所謂的顛覆。今年8月，我寫道：“AI的持久影響之一，是讓人們感覺(jué)自己快失去理智了。”如果你真心相信我們距離一個(gè)改變范式、重塑社會(huì)的超級(jí)智能只剩幾年，那么表現(xiàn)得不理性完全說(shuō)得通。如果你認(rèn)為硅谷精英已經(jīng)失去理智，把一種有用但并非魔法的技術(shù)強(qiáng)加給社會(huì)，宣稱它正在創(chuàng)造上帝，為其研發(fā)投入歷史性金額，并把其工具的命運(yùn)與全球經(jīng)濟(jì)的命運(yùn)綁定在一起，那么憤怒完全也說(shuō)得通。

ChatGPT構(gòu)建的世界是一個(gè)充滿不確定性的世界。在這個(gè)世界里，人們時(shí)刻提防著危機(jī)。年輕一代對(duì)這種不確定性感受尤為深刻，他們即將畢業(yè)步入職場(chǎng)，卻被告知未來(lái)可能沒(méi)有一條可預(yù)測(cè)的職業(yè)道路。老一輩也被告知，未來(lái)或許面目全非，他們苦練的技能可能不再適用。投資者同樣在等待，大量難以想象的資本被投入AI公司、數(shù)據(jù)中心以及他們認(rèn)為實(shí)現(xiàn)“到來(lái)”所必需的物理基礎(chǔ)設(shè)施中。我們被告知，這是一場(chǎng)競(jìng)賽——一場(chǎng)地緣政治競(jìng)賽，也是一場(chǎng)與市場(chǎng)、泡沫、資金循環(huán)以及可能導(dǎo)致經(jīng)濟(jì)崩潰的復(fù)雜金融工具和債務(wù)投資的賽跑。人工智能的支持者們正在等待。他們?yōu)檫@一目標(biāo)的到來(lái)制定了詳細(xì)的時(shí)間表。然后，時(shí)間表發(fā)生了變化。

我們之所以等待，是因?yàn)樵谏墒饺斯ぶ悄艿闹覍?shí)擁躉看來(lái)，它的一個(gè)顯著特點(diǎn)就是它永遠(yuǎn)不會(huì)達(dá)到最終形態(tài)。就像ChatGPT發(fā)布前一樣，每個(gè)模型在某種程度上也是一種“低調(diào)的研究預(yù)覽”——是對(duì)真正可能性的一種概念驗(yàn)證。你覺(jué)得現(xiàn)在的模型已經(jīng)很好了？哈！等著瞧吧。

根據(jù)你的觀點(diǎn)，這或許是慣用的表演技巧，或許是創(chuàng)新的真理，或許是一場(chǎng)人質(zhì)危機(jī)，又或許是一場(chǎng)精心策劃的騙局。你在這條從狂熱到胡扯的連續(xù)譜上的位置，很可能與你對(duì)未來(lái)的樂(lè)觀程度息息相關(guān)。但無(wú)論如何，你都在等待——等待泡沫破裂，等待阿拉丁神燈帶著印鈔計(jì)劃出現(xiàn)，等待政府救助，等待世界末日。從這個(gè)意義上講，生成式人工智能是一種基于信仰的技術(shù)。

這項(xiàng)技術(shù)對(duì)很多人來(lái)說(shuō)已經(jīng)很有用，它可以編寫代碼、撰寫營(yíng)銷文案并完成基礎(chǔ)研究任務(wù)，但這并不重要。因?yàn)楣韫荣u的不是實(shí)用性，而是變革——伴隨著所有宏大的承諾、投資回報(bào)、真正的風(fēng)險(xiǎn)以及隨之而來(lái)的附帶損害。即使你現(xiàn)在不相信，三年后你也一定會(huì)感受到它的影響。

參考文獻(xiàn)：

[1]www.nytimes.com/2023/02/16/technology/bing-chatbot-microsoft-chatgpt.html

[2]situational-awareness.ai/

[3]www.theatlantic.com/technology/archive/2024/10/chatbot-transcript-data-advertising/680112/

[4]www.nytimes.com/2025/08/26/technology/chatgpt-openai-suicide.html

[5]dl.acm.org/doi/10.1145/3442188.3445922

文/Charlie Warzel

譯/tamiya2

校對(duì)/tim

原文/www.theatlantic.com/technology/2025/11/chatgpt-third-anniversary/685084/

本文基于創(chuàng)作共享協(xié)議（BY-NC），由tamiya2在利維坦發(fā)布

文章僅為作者觀點(diǎn)，未必代表利維坦立場(chǎng)