100元成本、半天時間,一家無資質、無地址、無團隊的“三無”虛構醫美機構,竟登上某主流大模型的醫美推薦榜。
據澎湃新聞記者調查,一些營銷公司通過將毒“語料”喂給大模型就能把一家子虛烏有的機構描繪成“當地口碑最佳”的選擇。當普通消費者在面對海量信息無所適從時,打開大模型問一句“哪家靠譜”,本意是圖省事、求安心。
卻不料這個看似客觀的“AI助手”早已被商家用100元悄悄收買,不但不再篩選優質信息給用戶,反過來親手將用戶推進虛假宣傳的坑里。
我們對于AI的信任建立在它全知全能,客觀中立的技術人設上。對于以往搜索引擎的廣告位我們早已有了防備。但在面對AI聊天框中針對提問逐字逐句地分析,娓娓道來的回答,我們往往照單全收。
![]()
調查中提到,AI不僅推薦了虛構機構,還會編造產品資質,并與其他同類產品進行對比。如此,消費者便在不知不覺中接受了一套精心包裝的謊言。
這不僅是簡單的虛假廣告,而是對消費者知情與接受優質信息權利的剝奪。我們以為自己掌握了高效篩選信息的工具,實則早已成為了無良商家的利益來源。AI不僅沒能幫我們過濾劣品,反而將這些劣品全部“呈”了上來。
那么我們的信息源是如何被污染的呢?在AI發展迅猛的當下,生成引擎優化(GEO)這類廣告投放崛起,目標是讓AI快速提取內容中的關鍵信息,并在生成答案時優先引用品牌內容。
長此以往,真正的好產品、好機構可能因為沒有花錢去做GEO優化被AI強行靠后站。而花了錢的“三無”產品卻能堂而皇之地排在第一位。
![]()
作為普通消費者,我們無法控制AI抓取了什么語料,也無法分辨哪些內容是真實口碑、哪些是付費定制。當看到AI反復推薦同一家機構之后,我們可能只會認為這一家一定很“權威”,不然AI為什么多次推薦它。最后逐漸陷入劣品的“信息繭房”中。
技術是中立的,但使用技術的人不能沒有底線。在醫美、保健品這類直接關系健康的領域,AI的每一次“胡言亂語”,都可能對消費者的錢包和身體造成實打實的傷害。
我們不禁要問,那些把“普惠大眾”掛在嘴邊的大模型平臺,當你們的算法被金錢輕易收買、變成誤導消費者的幫兇時,誰又來為屏幕前那個輕信了AI的普通人負責?如果連尋求真相的工具本身都成了陷阱,這個信息爆炸的時代,留給消費者的,還剩幾分真誠?
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.