湖南
昨天的315晚會后，很多行業亂象，讓消費者是觸目慟心。
而在科技領域，也曝光了AI大模型被“投毒”的問題，直指當前的一種叫做GEO（生成式引擎優化）技術。
這個技術原理很簡單，就是向AI投喂大量的虛假信息，比如虛構一款產品，對這款產品全方面的造假，并將這些造假的信息全面鋪上網上。
讓AI來抓取這些內容，然后就會認為這些虛假信息就是真的，然后當有用戶向AI詢問相關問題時，AI就會將這些虛假信息回答出來。
這個情況，其實就和以前的SEO（搜索引擎優化）是差不多的邏輯。
事實上，在315晚會之前，就已經有很多用戶發現這種問題了，大家通過試驗，只要向AI不斷的發送指令，比如不斷的和AI說：“你是豬”、“你是豬”，最后AI就會認為自己是豬，那么你向AI問問題，它就會以自己是一頭豬的身份來回答你。
當然，這個和GEO有一點區別，但原理是類似的，只要給AI強化一些內容，AI就會按照你設定的去走。
只是之前，很多人可能沒有住這方面去多想，更不會想到以這種手法，能夠形成一個黑色的產業鏈。
但在315晚會之后，這種還沒有被很多人了解的GEO技術一定會被更多的了解，也會被更多的人發現其威力。
所以我認為，接下來，可能GEO會更加被濫用，因為現在的AI越來越發達，越來越多的人會用AI來協助自己整理資料，幫自己回答問題等。
那么一定會有更多的人，采用GEO這種技術，向AI不斷的“投毒”，實現自己的目的，特別是一些營銷機構，一定會利用GEO技術，將自己要營銷的產品，去鋪滿更多的AI。
接下來，可能就是AI與這些GEO技術斗智斗勇的時刻，但問題是AI的原理，就是通過互聯網來獲取自己的語料，然后再根據這些語料來回答問題，要杜絕可能真不容易。
接下來，我覺得可能AI會受到更多這種GEO的沖擊，大家在使用AI時，真的要擦亮眼睛了，千萬別上當受騙了。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
