據《商業內幕》昨日報道,一份內部文件顯示,亞馬遜內部雖然要求積極使用AI,但不同團隊大量使用AI構建自動化工作流與信息整理工具之后,公司內部出現了重復造輪子和數據管理混亂的現象,被稱為“AI無序泛濫”(AI sprawl)。
因為各種生成式AI和AI智能體的不斷進化,現在分分鐘就能寫出個AI工具,造輪子的速度很快,但舊輪子卻沒人管,這就讓企業的監管和安全合規體系不堪重負。企業沒有辦法全盤了解有哪些AI工具正在使用、敏感數據存儲在哪里,以及重復造了多少個輪子。
![]()
報道中拿以前的SaaS來舉例。在20年前云計算剛興起的時候,很多員工在沒走審批、沒報備給IT部門的情況下自主訂閱了SaaS服務。
在互相不通氣的情況下,員工重復訂閱都還是小事。員工把各種資料、合同、數據都存在未經過公司授權的云端,形成了一套公司都不知道的“影子IT系統”。因為公司不知情,所以誰有權限、數據會不會泄露,公司都管不著,這才是大事。這種情況不符合很多公司的合規要求,后來經過整改后才得以規范化。
而到了AI時代,這些問題又卷土重來了。
![]()
以前造輪子要投入人力、預算和時間,所以重復造輪子的事情是不多的,發現了也可以及時糾錯并調整。然而現在,AI隨手一寫就能變出很多輪子,也沒有人來做整合了,以至于亞馬遜內部重復的輪子滿天飛。
而且,亞馬遜內部使用的許多AI工具,會在處理了內部數據后生成一套知識庫或者摘要,就像一個人看完了課文后做了一套筆記一樣。筆記和課本是分開存放的,但如果課本被刪了,或者改了調用權限,AI生成的筆記卻還擺在桌上,這就容易造成數據泄露。曾經一個叫做Spec Studio的系統就泄露過已被亞馬遜設為私有的軟件代碼,這就是一個潛在的隱患。
![]()
目前,亞馬遜的做法是“原湯化原食”,用AI來查重、標記風險和盡快整合。然而這份文件指出,由于亞馬遜內部一直倡導“小團隊各顯神通”的企業創新文化,恐怕各個團隊開發的AI善后工具又會引發新一輪的“AI無序泛濫”,這下真是一根筋要變成兩頭堵了。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.