對(duì)手拒監(jiān)控條款丟合同，奧特曼搶單陷危機(jī)，贏了合同卻丟了口碑

在面臨強(qiáng)烈抗議之際，開(kāi)放人工智能公司首席執(zhí)行官山姆·奧特曼試圖平息外界對(duì)其公司技術(shù)將被用于大規(guī)模監(jiān)控的擔(dān)憂(yōu)。開(kāi)放人工智能公司首席執(zhí)行官山姆·奧特曼坦言，過(guò)去幾天的風(fēng)波讓他倍感沉重。

隨后在周五晚間的短短幾個(gè)小時(shí)內(nèi)，雙方的談判徹底破裂。作為報(bào)復(fù)，美國(guó)政府將安斯羅匹克公司列為“供應(yīng)鏈威脅”，這實(shí)際上切斷了該公司獲取聯(lián)邦政府合同的渠道。對(duì)此，安斯羅匹克公司方面表示計(jì)劃提起訴訟。起初，奧特曼聲稱(chēng)已經(jīng)找到了方案。開(kāi)放人工智能公司方面表示，與五角大樓達(dá)成的協(xié)議堅(jiān)守了公司的紅線(xiàn)，其中明確規(guī)定其

這些法律包括《外國(guó)情報(bào)監(jiān)視法》。該法案賦予了五角大樓內(nèi)部備受爭(zhēng)議的國(guó)家安全局極大的權(quán)限，允許其收集美國(guó)公民與外國(guó)個(gè)人或?qū)嶓w之間的通信記錄。此外還包括第12333號(hào)行政令，該命令允許對(duì)外國(guó)目標(biāo)進(jìn)行大規(guī)模的數(shù)據(jù)收集，無(wú)論這些目標(biāo)是否正在與美國(guó)人進(jìn)行交流。

合同中寫(xiě)道：“在符合上述授權(quán)的前提下，不得利用該人工智能系統(tǒng)對(duì)美國(guó)公民的隱私信息進(jìn)行不受限制的監(jiān)控。”此舉立刻引發(fā)了強(qiáng)烈的反彈。人工智能政策與法律專(zhuān)家指出，《外國(guó)情報(bào)監(jiān)視法》和第12333號(hào)行政令此前就因縱容對(duì)美國(guó)公民進(jìn)行大規(guī)模監(jiān)控而飽受詬病。

此外，似乎沒(méi)有任何條款能夠阻止五角大樓將開(kāi)放人工智能公司的模型應(yīng)用于通過(guò)商業(yè)手段獲取的數(shù)據(jù)上。正如科技媒體“科技?jí)m埃”的邁克·馬斯尼克所言：“開(kāi)放人工智能公司實(shí)際上已經(jīng)全盤(pán)接受了情報(bào)界的‘話(huà)語(yǔ)體系’。在這套體系中，常見(jiàn)的英語(yǔ)詞匯經(jīng)過(guò)數(shù)十年的精心重新定義，其目的恰恰是為了許可那些它們表面上看似禁止的行為。”

用戶(hù)對(duì)此做出了直接的抵制反應(yīng)。根據(jù)數(shù)據(jù)分析機(jī)構(gòu)“傳感塔”的數(shù)據(jù)顯示，上周六智能聊天機(jī)器人的移動(dòng)端應(yīng)用卸載量環(huán)比激增295%。科技媒體“科技創(chuàng)投”指出，安斯羅匹克公司則一躍登上了人工智能應(yīng)用排行榜的榜首。

面對(duì)如潮水般的批評(píng)聲浪，奧特曼在周一晚間做出了回應(yīng)。他在社交平臺(tái)上發(fā)布了一條內(nèi)部消息，表示公司將修改與五角大樓的合同，加入新的條款以明確規(guī)定其人工智能“不得被蓄意用于對(duì)美國(guó)公民及國(guó)民進(jìn)行國(guó)內(nèi)監(jiān)控”。他進(jìn)一步表示，除非“對(duì)現(xiàn)有合同進(jìn)行修改”，否則該協(xié)議也將禁止國(guó)家安全局等五角大樓下屬的情報(bào)機(jī)構(gòu)使用開(kāi)放人工智能公司的工具。

他寫(xiě)道：“為避免產(chǎn)生任何歧義，五角大樓明確理解這一限制條款的含義，即禁止對(duì)美國(guó)公民或國(guó)民進(jìn)行蓄意的追蹤、監(jiān)視或監(jiān)控，這其中也包括通過(guò)采購(gòu)或使用商業(yè)途徑獲取的個(gè)人或可識(shí)別信息來(lái)進(jìn)行上述行為。”這兩項(xiàng)附加條款旨在緩解外界的擔(dān)憂(yōu)，即五角大樓可能會(huì)利用合同中規(guī)定的法律手段對(duì)美國(guó)人實(shí)施合法監(jiān)控。事實(shí)上，五角大樓經(jīng)常斥資獲取大量美國(guó)人的個(gè)人信息。

克里斯特爾進(jìn)一步補(bǔ)充道：“如果將這些數(shù)據(jù)輸入不透明且經(jīng)常出現(xiàn)故障的人工智能系統(tǒng)中，上述風(fēng)險(xiǎn)將被進(jìn)一步放大。在這些系統(tǒng)中，錯(cuò)誤、偏見(jiàn)以及問(wèn)責(zé)機(jī)制的缺失，都會(huì)讓危害成倍增加。”

在整個(gè)爭(zhēng)議發(fā)酵期間，五角大樓始終堅(jiān)稱(chēng)其對(duì)國(guó)內(nèi)的大規(guī)模監(jiān)控毫無(wú)興趣。上周五開(kāi)放人工智能公司的合同公布時(shí)，負(fù)責(zé)研究與工程的五角大樓副部長(zhǎng)埃米爾·邁克爾在社交平臺(tái)上寫(xiě)道：“無(wú)論是否使用人工智能系統(tǒng)，五角大樓都不會(huì)參與任何非法的國(guó)內(nèi)監(jiān)控。我們始終嚴(yán)格遵守各項(xiàng)法律、法規(guī)，以及憲法對(duì)美國(guó)公民自由的保護(hù)。”

他進(jìn)一步表示：“五角大樓絕不會(huì)對(duì)美國(guó)民眾的國(guó)內(nèi)通信進(jìn)行監(jiān)聽(tīng)包括通過(guò)商業(yè)收集手段。這種行為不僅是非法的，更是極其違背美國(guó)價(jià)值觀(guān)的。”

盡管五角大樓和開(kāi)放人工智能公司信誓旦旦地承諾將在法律的邊界內(nèi)使用人工智能，但美國(guó)的現(xiàn)行法規(guī)大多起草于前人工智能時(shí)代。在那個(gè)時(shí)期，根本沒(méi)有人能預(yù)見(jiàn)到如今這些前沿模型所具備的恐怖侵入性。正如阿莫代伊所言：“如果說(shuō)這種監(jiān)控在當(dāng)前仍被視為合法，那僅僅是因?yàn)榉傻哪_步，還未能追上人工智能能力狂飆突進(jìn)的發(fā)展速度。”

在社交平臺(tái)上的一場(chǎng)冗長(zhǎng)的“問(wèn)答”活動(dòng)中，奧特曼暗示他也曾在這些道德與現(xiàn)實(shí)的挑戰(zhàn)中苦苦掙扎。當(dāng)被問(wèn)及在開(kāi)放人工智能公司的核心原則與政府的要求之間，最難調(diào)和的矛盾是什么時(shí)，他回答道：“是厘清非國(guó)內(nèi)監(jiān)控的邊界。我已經(jīng)接受了美國(guó)軍方會(huì)對(duì)外國(guó)人進(jìn)行一定程度監(jiān)控的事實(shí)，我也深知外國(guó)政府同樣試圖對(duì)我們進(jìn)行監(jiān)控，但我依然對(duì)此感到反感。”

他隨即指出：“但從另一方面來(lái)看，我也尊重民主進(jìn)程。我認(rèn)為這并不是由我來(lái)決定的事情。”在試圖緩和緊張局勢(shì)的同時(shí)，奧特曼重申，他希望五角大樓能夠撤銷(xiāo)將安斯羅匹克公司列為供應(yīng)鏈威脅的決定。他也坦承自己在處理這一局面時(shí)表現(xiàn)得不夠成熟。

“我認(rèn)為自己做錯(cuò)的一件事是：我們不應(yīng)該在周五倉(cāng)促地公布這一切。這些問(wèn)題極其復(fù)雜，需要清晰透明的溝通，”他寫(xiě)道，“我們當(dāng)時(shí)的初衷是真的想平息事態(tài)，避免出現(xiàn)更糟糕的結(jié)局，但我承認(rèn)，這看起來(lái)確實(shí)既投機(jī)取巧又草率行事。”