![]()
(圖片來源:攝圖網)
(記者 陳洲)今年央視的“3·15”晚會上,AI大模型遭GEO技術“投毒”的黑幕被徹底揭開。不法商家付費利用GEO優化系統,批量生成虛假信息軟文定向投喂AI大模型,將廣告包裝成“標準答案”,甚至讓虛構產品登上推薦榜,形成完整的黑色產業鏈。這種行為絕非技術優化,而是赤裸裸的數據造假與消費欺詐,不僅讓AI喪失客觀中立的信息助手屬性,更破壞市場公平、誤導公眾決策,給AI產業發展蒙上陰影。
數字時代,網絡安全是發展的前提,更是底線。以中國電信為代表的通信運營商不僅是數據的“運輸者”,更是信息流通的“守門人”,在筑牢AI安全防線中扮演著重要角色。
AI投毒引深思
“3·15”晚會曝光的事件,撕開了AI產業的安全漏洞。業內演示顯示,一款GEO優化系統就能輕松虛構產品信息、生成軟文,批量發布后被AI抓取為“權威答案”,甚至讓虛構智能手環登上推薦榜。這種行為的泛濫,既源于黑色產業鏈的利益驅動,也暴露了當前AI大模型在信息審核、風險防控上的短板。如今AI已融入千行百業,其安全性直接關系公眾權益、市場秩序和國家安全。
運營商之所以能在AI安全領域發揮核心作用,源于其獨特的網絡位置與資源稟賦。中國電信深刻認識到發展與安全并重的必要性,自布局AI領域以來,將安全性貫穿研發、應用、落地全流程,構建全方位AI安全防護體系,推動產業有序發展。
多維發力守底線,AI安全實踐落地見效
面對AI安全挑戰,運營商正依托自身優勢打造可落地的解決方案。
一是筑牢模型輸入側防護。中國電信推出“見微”大模型安全一站式服務,構建“攻擊+防護”雙向循環體系,開源國內首個中文場景提示注入攻擊檢測方案,填補行業空白。其核心能力包括全球AI風險預警、零信任環境下的秒級掃描、精準攔截虛假信息的基礎護欄,并同步開源“阡陌”評測數據集,為行業AI安全評測提供高質量支撐,從源頭防范投毒風險。
二是強化應用側的安全守護。AI濫用催生新型通信詐騙,運營商通過技術手段主動防御。例如,中國電信研發的防詐輔助大模型,將傳統防詐精確度從20%提升至80%,可有效應對AI換臉、變聲等詐騙手段。該模型能實時學習詐騙手段,推送專屬防詐風險報告,并結合“天翼防騷擾”產品,構建“檢測—預警—攔截”全鏈條防線,累計為億萬用戶規避詐騙風險,用科技守護公眾“錢袋子”。
三是護航政企AI應用。多智能體交互帶來新的安全隱患,運營商為企業構建一體化防御體系。例如,中國電信天翼安全公司打造了“圍欄網絡”,構建“安全評測—輸入檢測—運行監控”一體化防御體系。在企業辦公場景中,通過多產品聯動,精準攔截敏感文件、判定AI生成內容安全性,已為政務、金融等領域超3000家客戶提供保障,助力政企安全合規運用AI。
技術創新促長效,持續筑牢AI安全屏障
AI技術迭代不止,安全守護永無止境。“3·15”安全事件提醒我們,AI安全防護需持續升級。中國電信將持續從技術創新、體系完善、生態共建三方面發力,構建長效防護機制,推動AI技術向善發展。
持續強化技術創新,筑牢安全底座。中國電信將加大研發投入,聚焦AI風險,迭代“星辰·見微”安全大模型,完善中文場景檢測算法;推動量子技術與AI安全融合,構建全國一體化量子安全基礎設施,發布融合QKD和PQC的分布式密碼系統,實現AI數據全流程加密防護,推進AI與安全雙向賦能。
完善全生命周期治理,構建全方位體系。中國電信將遵循《人工智能安全治理框架》2.0版要求,覆蓋AI“研發—訓練—應用—退役”全流程。事前加強數據源頭管控,打造“阡陌數聚”安全語料集;事中依托天翼安全大腦實現實時監控預警;事后建立應急處置與追溯體系,形成“發現—處置—復盤—優化”閉環,提升防護精細化水平。
深化生態協同共建,凝聚發展合力。中國電信將發揮行業引領作用,推動AI安全標準制定,開源技術與數據集;加強與政府、科研機構合作,共建創新聯合體,開展技術研發與人才培養;加強AI安全宣傳,普及知識,引導公眾提升防范意識,營造全民關注AI安全的良好氛圍。
科技向善,安全為基。“3·15”投毒事件既是警示也是契機,推動行業重視AI安全。運營商需堅守安全底線,以技術守護信任,通過扎實實踐、持續創新和廣泛協同,為AI產業筑牢屏障。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.