今天的兩條熱搜,放在一起看很有意思。
第一條是“工信部發(fā)布高危風(fēng)險(xiǎn)預(yù)警”,預(yù)警對(duì)象是一只名叫“OpenClaw”的爆火AI智能軟件,因?yàn)閳D標(biāo)像龍蝦,又被大家戲稱為“AI龍蝦”。
![]()
長(zhǎng)期看我文章的讀者應(yīng)該有印象,幾天前我剛寫過這只“龍蝦”,據(jù)說它功能強(qiáng)大,不像傳統(tǒng)AI只能給你建議,而是能操控電腦,直接上手替人干活。
最近它火得一塌糊涂,以至于網(wǎng)上興起了許多代人安裝“OpenClaw”的收費(fèi)業(yè)務(wù),3月6號(hào)騰訊云在深圳騰訊大廈北廣場(chǎng)免費(fèi)幫用戶安裝該軟件,現(xiàn)場(chǎng)排隊(duì)多達(dá)千人。
![]()
但在今天,工信部突然潑下一盆冷水,提醒大家注意高危風(fēng)險(xiǎn)——
監(jiān)測(cè)發(fā)現(xiàn),這個(gè)開源的AI智能體在默認(rèn)配置下,極易引發(fā)網(wǎng)絡(luò)攻擊和信息泄露。因?yàn)樗邆洹俺掷m(xù)運(yùn)行、自主決策”的能力,一旦被惡意接管,后果不堪設(shè)想。
道理很簡(jiǎn)單,如果你家里來了一個(gè)什么活都能幫你干的超級(jí)保姆,那你就得小心了,她可能也正把你們家的門牌號(hào)、銀行卡密碼,甚至你的作息行蹤,都記錄給別人。
另外一條熱搜,也和“AI龍蝦”一樣,與高科技和個(gè)人隱私有關(guān)。那是來自復(fù)旦教授張軍平的提醒:人臉驗(yàn)證時(shí)千萬記得穿衣服,尤其不要在洗澡的時(shí)候做。
很多人可能都干過這種事。躺在床上、裹著浴巾、甚至光著膀子,舉起手機(jī)對(duì)著那張只露臉的小圓圈,眨眨眼、點(diǎn)點(diǎn)頭,搞定。
但你不知道的是,上傳的圖像,是攝像頭視野內(nèi)的全部區(qū)域,并不止是你看見的那個(gè)小圈。你以為只拍了臉,其實(shí)它拍下了你整個(gè)臥室、你凌亂的床鋪、甚至你光著的上半身。
![]()
更扎心的是,這些畫面不僅會(huì)被機(jī)器識(shí)別,還可能被后臺(tái)的審核人員“人工欣賞”。有做后臺(tái)審核的網(wǎng)友爆料,他就見過洗澡洗到一半滴著水刷臉的,也見過衣衫不整躺在床上驗(yàn)證的。
兩條熱搜,一個(gè)講的是前沿的AI工具,一個(gè)講的是日常的生物識(shí)別,其實(shí)內(nèi)核都一樣:在技術(shù)的黑箱里,我們不知道自己在暴露,更不知道暴露給了誰。
那么問題來了,為什么一個(gè)高危漏洞,會(huì)成為OpenClaw的默認(rèn)配置?
答案很現(xiàn)實(shí),因?yàn)樵诩夹g(shù)圈的邏輯里,功能永遠(yuǎn)是第一位,安全是后補(bǔ)的。你不設(shè)防,我也也不設(shè)防,誰先加固安全,誰就輸了速度。而速度,是用戶體驗(yàn)的核心之一。
資本和市場(chǎng)從來只獎(jiǎng)勵(lì)跑得最快的那個(gè),而不獎(jiǎng)勵(lì)最安全的那一個(gè)。誰先把產(chǎn)品推出去,誰就能搶占用戶、拿到融資、成為風(fēng)口上的豬。
至于“人臉識(shí)別”,這里有個(gè)更扎心的問題:為什么使用了這么久,軟件從來不會(huì)提醒我們,上傳的是整個(gè)視野,而不是那個(gè)小圈?
這是另一個(gè)殘酷真相,因?yàn)橹赖迷缴伲闷饋碓經(jīng)]有心理負(fù)擔(dān),推廣起來越容易。說清楚了,你可能就不愿意刷了。
那些密密麻麻的用戶協(xié)議、藏在角落里的隱私條款,本來就不是為了讓你讀懂,而是為了讓你直接點(diǎn)“同意”。
技術(shù)越界的本質(zhì),不是什么高深的倫理問題,而是一個(gè)簡(jiǎn)單的權(quán)力問題:用戶永遠(yuǎn)不完全知道自己在讓渡什么,而技術(shù)恰恰相反,它清楚知道自己需要獲得什么,以及怎樣獲得。
再說直白點(diǎn),技術(shù)本身沒有善惡,但設(shè)計(jì)技術(shù)的人、運(yùn)作技術(shù)的資本,是有立場(chǎng)的。他們的立場(chǎng)很簡(jiǎn)單:用最小的成本,換取最多的數(shù)據(jù)和利益。
所以,別指望他們主動(dòng)替你著想。工信部的預(yù)警是一種保護(hù),復(fù)旦教授的呼吁是一種提醒,但最后的防線,還是咱們自己。
技術(shù)是回不去的,但我們可以稍微清醒一點(diǎn)地活著。
-完-
筆不阿貴,文不奉承
yaner189520626254
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.