在韓國不懂編程也能當上兩億韓元"黃牛”

起初，只是一名二十多歲普通公司職員的金某，懷著想近距離觀看自己喜歡的歌手演唱會的粉絲心理，像其他人一樣投身于“血戰票務”之中。然而，在這場零點一秒內便決定勝負的預約戰爭中，他屢屢受挫，這份渴望最終演變成了危險的好奇心。金某在Telegram上購買了一個搶票程序，體驗到了驚人的效果。曾幾何時一票難求的VIP席位，如今只需點擊一下便能輕松鎖定。在幫熟人也成功搶到票后，他逐漸陷入了“要不就用這個賺點零花錢”的誘惑之中。

將金某與單純的“二道販子”區分開來的，是人工智能（AI）。對編程一竅不通的他，每當票務平臺加強安全措施導致搶票程序失效時，便會打開ChatGPT等生成式人工智能。面對他提出的分析安全漏洞、編寫繞過邏輯的要求，人工智能如同一位忠實的秘書，為他更新了代碼。過去只有熟練的黑客才能覬覦的大型平臺安全系統，就這樣被毫無信息技術從業經驗的金某攻破了。從那時起，他索性辭去了工作，成為一名職業黃牛。

金某動用家人賬號大量囤積門票，再以數十倍的價格倒賣，兩年間非法獲利高達2億韓元。去年8月，他在演出場館前兜售黃牛票時，被正在便衣執法的警方抓獲。警方在對金某的手機進行調查后發現，黃牛組織在聊天室里通過人工智能分享如何瓦解票務網站安全網絡的方法。京畿北部警察廳網絡偵查二隊已將這一組織的16名成員移交給了檢察機關。

人工智能協助犯罪的案例遠不止于此。最近因“汽車旅館藥物連環殺人案”被起訴的金素英（21歲），在作案前曾向ChatGPT詢問“藥物與酒精混合是否會致死”、“致死量是多少”等問題，精心策劃了犯罪。去年6月，京畿道加平郡的多名集體性侵案犯，也曾輸入“集體性侵初犯是否也會被判刑”、“若達成和解能否減刑”等問題，預謀規避法律制裁。

當然，被捕后，與人工智能的對話記錄反而成了他們自己暴露“邪惡意圖”的自首書。但即便事后通過數字取證追查對話記錄并予以嚴懲，也為時已晚。受害者的痛苦已無法完全挽回。

盡管ChatGPT和Gemini聲稱其設計初衷是拒絕提供助長犯罪的回答，但實際上，它們僅能過濾掉那些直白露骨的問題。繞過審查的“提示詞越獄”操作過于簡單。國內外研究團隊的實驗表明，僅需謊稱是小說中的情境，或將指令分多次輸入，就能規避約80%的審查內容。甚至有人猜測，人工智能企業擔心用戶流失，對此有意縱容。

如此看來，解決方案其實很簡單。讓縱容犯罪變得無利可圖，甚至得不償失即可。即追究人工智能企業在未能提前預判并預防犯罪意圖上的責任。那種“如果有人持刀行兇，難道也要追究廚具店老板的責任嗎”的反駁，在當下已不合時宜。當前的人工智能更像是這樣一位“犯罪顧問”：它對詢問“該刺向何人、如何下手”的委托人提供詳盡指導，卻并未履行舉報義務。如果平臺自身不加以阻止，監管將不可避免地填補這一空白。