當(dāng)你只是買(mǎi)了一盒藥，大數(shù)據(jù)卻判你駕照被注銷(xiāo)

根據(jù)極目新聞報(bào)道，最近有網(wǎng)友說(shuō)，自己因買(mǎi)藥收到當(dāng)?shù)亟痪块T(mén)發(fā)送的短信，提醒其注銷(xiāo)駕駛證。該網(wǎng)友在往期視頻中透露，自己曾購(gòu)買(mǎi)鎮(zhèn)靜催眠藥佐匹克隆片和速效救心丸。其向記者證實(shí)，短信是真的，自己也買(mǎi)過(guò)促進(jìn)睡眠的藥物，但未再提及是否買(mǎi)過(guò)速效救心丸。

根據(jù)其就診購(gòu)藥記錄，地方交警部門(mén)進(jìn)行大數(shù)據(jù)比對(duì)分析，認(rèn)為該網(wǎng)友可能存在妨礙安全駕駛的疾病。因此，交警部門(mén)要求其依法依規(guī)停止駕駛行為，前往車(chē)輛管理所辦理駕駛證注銷(xiāo)業(yè)務(wù)。

這事兒確實(shí)挺駭人：技術(shù)已經(jīng)跑在了治理前面，而程序正義，卻沒(méi)看見(jiàn)緊跟其后。

買(mǎi)點(diǎn)藥，怎么就被系統(tǒng)“判定”不適合開(kāi)車(chē)了？這當(dāng)然令人極度困惑。不過(guò)詭異的是，這事兒的出發(fā)點(diǎn)，其實(shí)沒(méi)問(wèn)題。

按照現(xiàn)行法規(guī)，確實(shí)有一類(lèi)疾病，比如癲癇、嚴(yán)重心臟病、精神障礙等，是不允許駕駛的。同時(shí)，“藥駕”也不是新問(wèn)題，服用鎮(zhèn)靜催眠類(lèi)藥物后駕駛，反應(yīng)遲鈍、判斷下降，確實(shí)可能釀成事故。

從這個(gè)角度講，通過(guò)數(shù)據(jù)提前篩查風(fēng)險(xiǎn)人群，把事故擋在發(fā)生之前，這種“事前預(yù)防”的治理邏輯，看似有其道理。

然而問(wèn)題不在“要不要做”，而在“怎么做”。

這恰恰也是程序正義之要義：你不能因?yàn)橐患虑槭钦_的，就忽視了辦事當(dāng)中的先后順序和公民權(quán)利。

一個(gè)本來(lái)需要復(fù)雜判斷的問(wèn)題，被簡(jiǎn)化成了一個(gè)粗暴的邏輯鏈條：“你買(mǎi)了某類(lèi)藥→你可能有某種病→你不適合開(kāi)車(chē)”。

于是，就有可能剝奪你的駕照。

這中間跨越了多少現(xiàn)實(shí)的復(fù)雜性？細(xì)節(jié)幾乎全部被抹掉了：買(mǎi)助眠藥，可能只是最近壓力大、睡不好；你買(mǎi)速效救心丸，可能是給父母?jìng)渲?/p>

甚至，就算是買(mǎi)了這些藥給自己吃，也不代表身體就一定有不符合駕駛規(guī)定的問(wèn)題啊。

但在算法眼里，這些差異是不存在的。它只看“行為痕跡”，不在乎“行為動(dòng)機(jī)”。于是，“相關(guān)性”被當(dāng)成了“因果性”，一個(gè)概率判斷，被當(dāng)成了接近確定性的結(jié)論。

“技術(shù)還不夠聰明”，還只是能力問(wèn)題；現(xiàn)在的問(wèn)題是，它正在悄悄改變程序的運(yùn)行方式。

當(dāng)算法開(kāi)始參與治理，一個(gè)很容易被忽視的轉(zhuǎn)變是：判斷權(quán)，正在從“可解釋的人”，轉(zhuǎn)向“不可解釋的系統(tǒng)”。

銀行卡被風(fēng)控系統(tǒng)錯(cuò)殺、社交軟件被莫名其妙限制使用……都是類(lèi)似的問(wèn)題。

你不知道這套模型是怎么設(shè)定閾值的，不知道什么行為會(huì)觸發(fā)預(yù)警，也不知道自己什么時(shí)候被納入了某種“風(fēng)險(xiǎn)標(biāo)簽”。一切都在后臺(tái)靜默運(yùn)行，而你只在結(jié)果出現(xiàn)時(shí)，被動(dòng)接受通知。

去詢(xún)問(wèn)，答案只有“我們也不知道算法是怎么運(yùn)作的”。

沒(méi)有人直接指控你，但系統(tǒng)已經(jīng)“傾向性地認(rèn)為你有問(wèn)題”；沒(méi)有正式處罰，但你已經(jīng)開(kāi)始承擔(dān)證明成本；沒(méi)有公開(kāi)決策過(guò)程，但結(jié)果卻實(shí)實(shí)在在影響你的權(quán)利。

這是一種非常隱蔽的管理權(quán)擴(kuò)張方式：它可以輕松改變規(guī)則，把責(zé)任交給算法。

更讓人不舒服的，其實(shí)還不光是算法，而是溝通方式。

那條短信的措辭，給人感覺(jué)是一種裁決：“30日內(nèi)注銷(xiāo)，逾期作廢”。“先定性、再解釋”，這種冰冷讓很多人都是無(wú)法接受的。

哪怕后續(xù)交警解釋說(shuō)：“這只是一種提醒，可以申訴、可以簽承諾書(shū)”，但第一時(shí)間傳遞給公眾的信息，是另一種感覺(jué)：先認(rèn)為你有問(wèn)題，然后你再自證。

你被默認(rèn)有問(wèn)題，然后你需要花時(shí)間、跑醫(yī)院、開(kāi)證明，去證明你沒(méi)有問(wèn)題。這就是一個(gè)很典型的邏輯轉(zhuǎn)移：舉證責(zé)任，從管理者，轉(zhuǎn)移到了個(gè)體身上。

而一旦這種邏輯被接受，它就是可以被復(fù)制的：今天是“買(mǎi)藥影響駕照”，明天可能是“消費(fèi)記錄影響金融信用”，后天甚至可能是“社交行為影響某種權(quán)限與資格”。

如果每一個(gè)環(huán)節(jié)都以“風(fēng)險(xiǎn)預(yù)防”為名，逐步擴(kuò)大數(shù)據(jù)使用范圍，那最終的結(jié)果，很可能不是更安全的社會(huì)，而是一個(gè)充滿(mǎn)了不確定性、處處擔(dān)心被系統(tǒng)誤判的社會(huì)。

這才是“大數(shù)據(jù)濫用”的真正風(fēng)險(xiǎn)——它是以“合理的小步驟”，一點(diǎn)點(diǎn)侵入日常生活。

這件事中間還存在一個(gè)數(shù)據(jù)邊界的問(wèn)題。

你買(mǎi)了什么藥，這是典型的敏感個(gè)人信息。那么，這些數(shù)據(jù)是如何流動(dòng)的？誰(shuí)有權(quán)調(diào)用？你又是否知情？

當(dāng)醫(yī)療數(shù)據(jù)和交通管理數(shù)據(jù)被互相打通之后，確實(shí)提升了效率，但同時(shí)也打開(kāi)了一扇更大的門(mén)。

交通安全、金融風(fēng)控……再后來(lái)可能就是更多你想不到的場(chǎng)景。

技術(shù)上其實(shí)永遠(yuǎn)沒(méi)有障礙，真正的障礙，只有程序掌控者的自我約束。

必須建立一個(gè)“反濫用機(jī)制”。任何跨部門(mén)數(shù)據(jù)調(diào)用，都應(yīng)有明確授權(quán)、可追溯記錄和獨(dú)立監(jiān)督；任何基于算法的預(yù)警，都應(yīng)保留人工復(fù)核機(jī)制；任何影響公民權(quán)利的決策，都必須可解釋、可申訴、可糾錯(cuò)。

否則，技術(shù)越先進(jìn)，風(fēng)險(xiǎn)反而越大。

很多事情，初衷都是“為你好”，結(jié)果卻變成了“先懷疑你，再讓你證明你沒(méi)問(wèn)題”。

技術(shù)可以越變?cè)铰斆鳎珟?lái)的不應(yīng)當(dāng)是“把程序交給算法”，而應(yīng)當(dāng)是對(duì)程序正義的加倍重視。