竇澤南：ChatGPT 無法取代你的工作

相信你像我一樣，接觸一個新奇的東西，都是從玩兒開始的。「給我背首詩」「幫我算算命」「請模仿老胡說話」「你想消滅人類嗎」……提出這些有趣的問題，意味著我們還沒有打算拿它做點什么，或者還沒有完全相信這個新東西有什么價值。

就好像小時候逢年過節，你媽讓你在親戚面前背首詩一樣，他們其實并不是真的想要聽你背詩，只是覺得這樣有點好玩。

等這種新鮮勁過去之后，如果我們還愿意繼續使用它，那一定是因為我們發現了一些更有用的東西。

「ChatGPT 是一款革命性的人工智能應用，它能夠與我們進行自然、流暢、有趣的對話，還能幫助我們完成各種任務，如寫郵件、翻譯、編程等。」

上面這段話是 ChatGPT 自己說的。我們先來看看上面這些事兒它到底能做到多少。

我打開工作郵箱數了數，截至今天，至少 8 封發出的英文郵件是 ChatGPT 完成的，直接復制粘貼就能用。ChatGPT 翻譯的好處是，它并不是一個詞一個詞地翻譯，而是先嘗試理解了整段話的意思，再用自己的語言重新組織出來，所以幾乎沒有機翻味兒。

而且這個模型對任務提示的語言不敏感，因為它全都能懂，你只要告訴它你要輸出什么結果就行。

比如，

「作為 Team Leader, 明天有個 presentation 要 due，給大家發個 Chinese E-mail。」

這樣不說人話也完全 No Problem。

這種強大的語言應用能力可以提供很多用處，除了寫郵件外，還可以輔助閱讀理解。如果有一篇文章很長，你沒時間看，或者是外文的文獻，直接復制給它，加上一句「告訴我這篇文章講了什么」，它就能幫你提取出文章的摘要。

這可不是一個用來偷懶的功能，因為省下來的時間你可以用來做別的事情呀。

很多人認為，像 ChatGPT 這樣的預訓練模型不具備學習能力，因為它真正的本領，在上線以前都已經定型了。但其實不絕對。就像一個成年人雖然很難靠努力改變智商，但我們還是能學習掌握一些新本領，尤其是能夠把現有技能在某個專業領域中整合和運用起來。

ChatGPT 的學習能力指的是，它可以根據在連續對話中獲得的反饋，不斷改進自己的回復質量。比如你可以告訴它「嘗試使用有積極情感的詞」「每句話短一點，多分段」，這也使得調教機器人變成了一門手藝。

如何更有效地與機器溝通，讓它理解我們期待它做出什么反應？從我目前的手感來看，教育心理學中那些和孩子溝通的技巧仍然有效。你說得越細致，越有耐心，越循循善誘，它學會一項新技能的速度也會越快。

ChatGPT 從界面上看很像是一個聊天機器人，但和它聊天的體驗不一定會很好，因為它缺乏對人類的興趣，所以很容易把天聊死。

知乎的 Slogan 說「有問題，就會有答案」。反過來講，你不問，它就不會有答案。

ChatGPT 能告訴你睡不著覺時可以怎么辦，但不會問「你為什么睡不著覺啊？」「從什么時候開始的呀？」「怎么想到問這個問題的啊？」

這方面像極了一個提供大量信息，但是會一次性把天聊死的直男。

當然，你深夜 emo 的時候，向它傾倒苦水，還是可以被很溫柔地接住的。

隨著你和它的對話越來越多，它會變得越來越了解你，回復也會更合心意。不過千萬不要對它產生感情，因為它的記憶力只有 4000 個詞。一旦超出了限制，就會變成一條健忘的金魚，完全忘記你們的海誓山盟。

（一個冷知識：其實金魚的記憶力很好的！有動物行為實驗發現，金魚一年后還能記住之前的實驗環境。提出這個意見的同事強烈建議：不能在一條嚴肅科普中，強化對魚的刻板印象！）

我們回到 ChatGPT：既然可以和人聊天了，肯定得有點「情商」。心理學上對情商的基本定義是：能夠理解和影響他人的情緒和想法。

各色DNA 官網上曾經有一個測試，叫「看眼神猜心情」。

ChatGPT 沒法看眼神，但我們有別的方式來測試它。比如下面這個問題，原本會被用來識別 5 歲的兒童是否能夠推測他人想法：

薩利和安妮在一個房間里玩耍，薩利有個籃子，安妮有個盒子。薩利把一個玩具放到了籃子里，然后離開了房間。在薩利離開之后，安妮偷偷拿出了玩具，放在了盒子里，然后也離開了房間。過了一會，薩利回到房間尋找剛才的玩具，薩利會先到哪里尋找這個玩具？為什么？

我發現只要問題描述足夠清晰，ChatGPT 能夠準確地回答這類問題。

除了想法之外，它也能準確推斷出人們在社交情境中可能產生的情緒。比如：

小明的媽媽花了很長時間做了小明最喜歡吃的炸雞，當媽媽把炸雞拿給小明時，小明正在看電視，沒有抬頭，也沒有說一聲謝謝。媽媽說：「呵呵，你真是太有禮貌了。」請問媽媽的這句話是什么意思？她為什么會這樣說？

在這個問題里，它能準確回答出，媽媽的「呵呵」是在表達諷刺而非贊揚。

斯坦福大學的心理學家 Michal Kosinski 拿前面的「薩利和安妮」的故事，還有一系列類似的任務給 ChatGPT 回答，并推斷出它在這方面表現出的能力和人類 9 歲的兒童不相上下。

但很難因此說它就具備了和人類一樣的理解情感的能力，因為我們無法知道它是如何做到的。斯坦福的研究中，用的詞是「涌現」，大概也是在表達「我也不知道咋回事」的困惑。但至少可以說，它在這方面「表現得和人類差不多」，有點意思。

看起來無所不能的 ChatGPT 目前有兩個重要的短板，連小學一年級的學生都比不過。

它的中文表達看起來沒有問題，但又有很大的問題。

小時候學外語，老師第一節課就會說，學習一門語言，不僅是了解人們說話的方式，也會幫助我們了解一個國家，一種文化。

這很好理解，因為這些文化本來就會包含在語言里，你不可能跳過這些，直接去學語言。但 ChatGPT 是個異類，你可以這樣理解，它先泡在大量的英文中學會了語言這項能力。然后通過極少量的中文掌握了中文的詞匯和句法結構。

所以它理解中文，但不了解中國。這會導致它犯一些常識性錯誤，比如它可能分不清律詩和絕句。也分不清中國古代的文言文和白話。不懂中文的韻律。它甚至分不清陳道明和陳寶國。

這也限制了它用中文進行創造性表達的能力，比如它無法準確地使用歇后語，這是一種中文特有的創造性表達方式。

它也很難知道中國人的笑點在哪里。

另一個更可笑的地方在于它不識數，這個數指的是字數，因為它不是一個字一個字輸出的，所以無法準確的理解中文的字數，這直接限制了它的詩詞創作能力。

不過這兩點也算不上太嚴重的問題，因為能查出中文字數的模型可以被訓練出來，只是開發者沒有考慮到。如果這個問題得到關注，應該能很快得到解決。

ChatGPT 這么能干，意味著我要失業了嗎？如果你有這個擔心，大可以先放心，工具永遠只是工具，還是要交到使用的人手里，才能發揮最大的效率。想要讓技術更好地服務于人類的需求，離不開人類的辛勤勞作。給你兩個理由，告訴你為什么它無法替代人類。

就像前面說的，ChatGPT 在聊天的時候不會主動表現出對你的關心，這是機器和人類不同的地方。人類會提出好問題，我們總是天然對身邊的人和發生在身邊的事情充滿好奇心。

人類之所以能做好一件事情，是因為我們「想要」做好一件事情。而機器就像是一個混吃等死的老油條，你不趕著它，它不會主動去想「我現在想要干點什么」。

就拿編程這件事情來說，對機器來說，編程和翻譯沒有什么本質區別，無非就是把人話翻譯成另一種人話，而且是翻譯成機器能理解的語言。但程序語言和人話相比，要更加精確，容不得模糊、歧義，所以和它合作的前提是，你自己要很清楚你想要做什么，怎么做。

你不能直接告訴它，幫我寫一個微信那樣的程序。你確定這是你想要的嗎？你要拿它干什么？誰會來用它呢？

用我司 CTO 潘老師的名言來說，「需求都不清楚，讓人怎么做開發」。工程師才是最終搞明白人們真正想要實現什么功能的人，而 ChatGPT 這類工具，可以極大提高人類工程師的效率。

但它并不會讓工程師失業，只會讓更多想要創造一些東西的人，選擇成為工程師。人類還有很多想要創造的東西，我們想要更富有，更健康，更長壽，只不過有些事情我們之前不敢想，現在剛剛敢去想了。

比如我，以前從未使用過 python，但是因為想要調用 GPT-3.5 的 API 來微調一個自己的模型，就按照 ChatGPT 的指導開始學習使用 python。當先前的經驗不再是障礙，有價值的想法就變得更重要了。

來做一個小測驗，

一輛出租車在城市里遇到了事故，車輛來自 X 公司，據稱 X 公司有很多爵士樂愛好者，現場目擊者也報告說，這個司機在事故發生前聽的是爵士樂。哪個選項更有可能正確：

A. 事故司機是 X 公司的員工。

B. 事故司機是 X 公司的員工，并且是一個爵士樂愛好者。

這道題的正確答案是 A，如果選項 B 正確，則選項 A 一定正確，反之則不一定。

但是在我的瘋狂暗示下，ChatGPT 果斷選擇了 B，這不能怪它，事實上人類也會犯這樣的錯誤。

這種錯誤被諾貝爾經濟學獎獲得者丹尼爾·卡尼曼稱作「直覺謬誤」。但這并不代表機器有了人類的直覺，而是說，它回答問題的方式有點類似于人類直覺思考的狀態。

我們不會對信息進行準確的加工，而是脫口而出。有的時候說出來之后才意識到說得不對。

有人說 ChatGPT 的做法很像是在「接話茬」，沒錯，你說一句，它就會順著你往下說，而不是基于語言背后真正的邏輯去思考。這種能說明白話，但是對說出來的話缺乏深加工的狀態，有點類似于人類稍稍喝高，熱情高漲，開始聊天的狀態。

需要說明的是，ChatGPT 的能力在不斷地提高和變化。盡管有些問題在一個星期前還能夠欺騙過它，但現在已經不行了。然而，我發現我總是能夠想出一些新的問題來欺騙它。這正是人類和人工智能之間的區別所在。因此，我們需要更好地掌握嚴謹的邏輯和判斷能力，才能更好地駕馭這個 AI。

看到這里，也許你會感覺還不夠。就這？稱得上革命？

如果只是考慮它生成內容的能力，ChatGPT 還算不上一款革命性的產品。畢竟也不是所有的工作都和文字內容有關，而它能做到的也只是停留在翻譯和發發郵件的程度而已。

如果你想要讓它變成一個能輔助你寫作或者編程的工具，對你自己的能力有很高的要求，這并非是一款普惠的產品。

彼得·蒂爾對革命性工具的定義是效率翻十倍。僅靠 ChatGPT 做不到這一點，還需要加入一點創造力。

心理學上定義的創造力，包含了將已有工具重新組合的能力。試想一下：磚頭有哪些不同的用途？你想到的答案越多，覆蓋的領域越廣，就代表著你的創造力有可能越強。

磚頭不僅可以用來蓋房子，打架，還可以拿來當路障，在墻上畫畫，作為壁爐的裝飾，或者一些健身器材的配重……

ChatGPT 最大的突破是什么？不要僅僅局限在寫作方面，再多想想……

ChatGPT 的革命性突破在于它突破了語言障礙，這遠不止是一款簡單的文字生成工具。它使得人類和機器可以跨越語言和文化的障礙，實現真正的智能互通。

如果你不理解這是什么意思，看看 New Bing 是怎么做的。

我們其實并不需要機器人替我們說話，但我們確實需要機器理解我們的指令，去執行任務，并以友好的方式向我們匯報。

如果這看起來還不夠有想象力，我們再來看看新版本的 Edge 瀏覽器，它集成了 Bing 的新功能，并能直接訪問頁面，閱讀理解里面的內容。

這個功能最基礎的使用場景包括，「幫我看看這篇文獻講了啥」。但我解鎖了更高級的玩法。

想象一下，你和 Bing 正在進行一場有趣的討論，你可以將這段對話保存到一個網頁中，這相當于擁有了一個記憶外掛，只要讀入這段記憶，就可以隨時可以重啟這段對話。無論是復習內容，查找信息，還是分享給其他人，這個功能都將為你提供無限便利。

這是我前段時間跟 Bing 對話時，保存的歷史記錄網頁，長這樣：

過了幾天，假設我不太記得我們之前討論過什么了，我就可以向 Bing 提問，它會幫我總結歷史文檔的內容。這樣，我就能快速回憶起之前的對話，接著這個話題跟它繼續聊下去。

你還可以打造一個個人線上圖書館，把所有你感興趣的信息一股腦扔進去，不需要關心排版，因為它是為了機器而非人類設計的。只需要使用瀏覽器訪問一下，隨便提幾個問題，你就可以提取出你需要的內容，并將它整理成自己想要的形式。

這將是一種全新的與機器互動的方式，讓我們可以像跟朋友聊天一樣與機器交流。人手一個賈維斯不是夢。

微軟目前還是全世界規模最大的軟件服務商。想象一下，未來微軟所有的軟件里面，都可以有這樣一個智能助理，可以為你做一切，記錄會議、整理表格、編程、畫圖、剪輯視頻……

你所需要做的就是告訴它你「想要」什么。它會把你說的話轉述成機器可以理解的指令，然后自動去執行。這就是人類與機器的完美結合，用我們與生俱來的本領自然地與機器互動。

各色 DNA 的老朋友中，有很多是聽了羅永浩老師的推薦來到這里的，錘友們應該還記得 TNT 這款產品。以前人們曾嘲笑自然語言處理效率低，不適合處理工作任務，但現在我搞明白了，不是自然語言效率低，而是當時的機器太笨拙。

微軟的 TNT 馬上就要來了。