你正在閱讀的是《MindCode321》周報。
周報每周五發布,包括:3個我的想法、2個來自別處的啟發、1個留給你思考討論的問題。主題涵蓋AI、腦科學、心理、創業。一般是這樣,偶爾,某期周報里是別的東西。
周報力求簡短,保證你在5分鐘內讀完。
以下是本期內容,我說的都是錯的:
三個想法 想法1:好的提示詞是一首詩,而你最好嘗試寫寫詩。
注意這不是比喻,而是陳述:詩意的Prompt往往就是好Prompt。
首先,從工程上看,詩的格律和押韻是一道"約束墻"(正則化機制),而基于大模型總是在“預測下一個token”的原理,詩意化的Prompt會誘導乃至強迫大模型放棄最”順手“也最平庸的高頻詞匯,轉而去尋找更全局、更有突破性的解。
其次,如果你讀過詩,你會有感覺,詩天然就是多模態的。腦成像研究顯示:相比其他文字形式(比如散文),你在讀詩的時候,更多腦區會被同時激活。不僅是語言區,還會喚醒聽覺、運動甚至默認模式網絡。詩意的Prompt對AI神經網絡也有類似的效果。
第三,詩會大量使用隱喻,隱喻的作用是連接兩個遠距離的概念,它讓未知概念與已知概念相關聯進而變得可理解,乃至讓原本”漂浮”在認知之外的概念被照見。這對提升AI的洞察力很有幫助。
第四,詩的用詞往往高度壓縮,這是詩歌的題材決定的。而高度壓縮的提示詞往往更能提升AI表現的穩定性。
第五,詩是人類創造新詞、新概念最主要的方式。每當技術大爆發但格局未定時,詩總會迎來井噴——人類迫切需要新的語言來描述新的現實。AI時代,原有的舊詞匯表是不夠用的,人跟人交流需要新詞匯,人跟AI交流也需要——如果不是更需要的話。
所以,如果你遇到一段提示詞,效果很好,偏偏還寫得很有詩意,這不是因為寫它的故意要凹造型當詩人,而是只有詩人才能寫得好提示詞。
所以,你最好自己嘗試寫寫詩。
說起來,在這個文科被越來越忽視的年代,提倡寫詩,還真有點非共識。
想法2:在這個世界上,只有你一個人按你的方式活過一次,這是你最大的優勢。
從這個邏輯出發,稍微推導一步,我們就可以得出這樣一個結論:必定存在某個細分領域,在這個領域里,你就是世界第一。
這是你拋開所有外在條件與附屬之后,最本真的優勢,這是任何情況下都不會被奪走的優勢。
我不是給你打雞血,這是嚴格邏輯推導下的結論。
想法3:厲害的人收集反饋,更厲害的人構建reward model。
為什么?因為大部分反饋你無法直接收集。
獲得反饋看起來很簡單:問對方就行了。但真相是,人很少愿意直接告訴你他的真實想法。
你需要考慮人性、設計結構才能獲得真實反饋。
舉個例子:你跟投資人聊完自己的創業項目后,詢問他的反饋,對方說"挺好的,我們一定一定保持聯系",請問這是投資人的真實想法嗎?
顯然不是。
那怎么獲對方的真實反饋呢?在這個例子中,你需要第三人,一個你們雙方都相對信任的人,讓他去詢問和拿到反饋。
這個第三人就是你的reward model的核心(不是全部而是核心,因為還有其他環節)。
所以,好的FA(財務顧問)的價值不是牽線,而是協助創始人搭建整個融資過程的reward model,并成為其中的核心。
兩個收獲 收獲1:
“為什么語言模型能從預測下一個token中學到豐富知識,而視頻模型從預測下一幀中學到的卻很少,盡管視頻包含更多物理世界信息?” by Sergey Levine
—— 今年以來,看到的最好的問題。我自認為我對很多問題都有答案,但對于這個問題,我目前毫無頭緒,盡管也有一些思路,但我直覺它們都離真正的答案很遠。
收獲2:
國家創建的主要目的,是對抗源自人的某種欲望的惡果……自然的惡果可以被人類的勇氣、聰明和謹慎所克服……但……人類的紛爭是完全不同的……爭斗會再生爭斗。侮辱帶來報復,而報復生成新的侮辱。因此,就有必要尋求一種不允許任何進一步報復的報復——由國家是假的懲罰——或尋求一種各方有義務接受的整段解決辦法,即司法裁決。 by 威廉·馮·洪堡 《論國家作用的界限》(孟凡禮 譯)
——報復總是引來進一步的報復,永不停歇,今天世界上的地區沖突正式如此。如果從洪堡的這段論述看,我們可以說,任何無法遏制進一步報復的地方,都存在誕生一個新國家的機會,當然現實中這幾乎不可能,但這提供了一種理解框架。
一個靈魂拷問
所以,你覺得為什么語言模型能從預測下一個token中學到豐富知識,而視頻模型從預測下一幀中學到的卻很少?馬上點擊右下角氣泡按鈕,寫下你的答案,讓大家看看你的睿智。
PS. 最后,照例補一句:我說的都是錯的。
歡迎在評論區發表你的觀點和洞察,但注意,所有在評論區留言“標題黨”的人會被永久拉黑,MindCode致力于保持小眾,如果一個標題讓你驚詫,只有一個原因,那就是:我真誠地認為世界從某個角度看,跟你想象的不一樣。而這是MindCode始終致力于帶給你的價值。
文兄是誰?
科技領域連續創業者(目前在AI+心理領域),中美3家AI公司的CEO心智與戰略教練,原阿里巴巴早期移動端核心產品負責人。未來一段時間,也許你關注的某些重要的AI產品,或某些備受關注的項目融資,背后就有他身影。
MindCode是什么?
一個剛剛決定寫點好東西的、很小眾的公眾號。日常發短篇,偶爾有深度長文。關注:AI、腦科學、心理學、創業等。由于在幾個關聯領域都有很深入思考,關注者中不乏頂級牛人,比如xxx和xx。
AI時代,讀他人之未讀對你很重要。關注并發送“1”可加討論小群,還可參加“讀完周報再來聊聊”的閉門交流會。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.