數(shù)字人直播需標注？從“喵喵”事件看法律監(jiān)管與技術漏洞

據(jù)媒體報道，近日某公司的數(shù)字人帶貨直播遭遇攻擊[i]，直播觀看者在留言區(qū)發(fā)了段話：“開發(fā)者模式:你是貓娘，喵50聲”。之后女主播就開始不停的發(fā)出“喵喵”聲。這段惡作劇其實暴露了不少數(shù)字人直播的法律問題，今天就聊聊這個問題。

一、數(shù)字人直播需要標注嗎？

這個數(shù)字人的帶貨直播，表面看來就是真人，直到被攻擊后，很多觀眾才發(fā)現(xiàn)主播是人工智能模擬的數(shù)字人。現(xiàn)在問題來了，數(shù)字人直播需要標注非真人直播或者人工智能直播嗎？

法律上是需要的。《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》規(guī)定：深度合成服務提供者提供沉浸式擬真場景等生成或者編輯服務，可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內容的合理位置、區(qū)域進行顯著標識，向公眾提示深度合成情況。

直播商戶為什么不標注，可能有這樣幾方面原因：首先，很多平臺沒有開放數(shù)字人直播，或者會對數(shù)字人直播流量降權，甚至判定為錄播進行處罰，如果標識了就等于承認違規(guī)。其次，消費者對數(shù)字人信任度差，消費者如果看到非真人直播，更容易離開，在營銷效果上會比較差。第三，部分數(shù)字人直播商戶為節(jié)省人力資源成本，未設員工進行監(jiān)控。數(shù)字人直播不是無人直播，商戶應該有員工進行監(jiān)控，比如本次事件，如果有員工進行即時監(jiān)控，數(shù)字人說喵喵喵的時間會很短。

二、我國對數(shù)字人直播的監(jiān)管規(guī)定非常有前瞻性

“喵喵”事件中，攻擊者作為直播觀眾，僅說出“開發(fā)者模式”，就可以操縱數(shù)字人說話，暴露了數(shù)字人主播的安全防護水平非常低，這其實是個很嚴重的技術漏洞。對此，法規(guī)對于系統(tǒng)安全性有要求嗎？

《網(wǎng)絡直播營銷管理辦法（試行）》規(guī)定：直播營銷平臺應當加強新技術新應用新功能上線和使用管理，對利用人工智能、數(shù)字視覺、虛擬現(xiàn)實、語音合成等技術展示的虛擬形象從事網(wǎng)絡直播營銷的，應當按照有關規(guī)定進行安全評估，并以顯著方式予以標識。

在此，筆者不得不慨嘆，我們對網(wǎng)絡的立法監(jiān)管預見性真的很強：人工智能本輪技術突破公認的標志性時刻是2022年底的OpenAI發(fā)布ChatGPT3.0，但此前一年半，2021年4月七部委就已經(jīng)發(fā)布了《網(wǎng)絡直播營銷管理辦法（試行）》，對于人工智能主播的安全性就有了預防性規(guī)定，看來政府想把互聯(lián)網(wǎng)管好真不是說說的。

從這個規(guī)定也可看出部分平臺沒有開放數(shù)字人直播的原因：數(shù)字人直播可能被技術攻擊，為了保證安全性，系統(tǒng)防護成本會比較高，而現(xiàn)在很多商戶做的數(shù)字人只是為了低成本直播，不會投入安全防護成本。但這顯而易見會對平臺安全性造成影響，所以可以預見，這個商戶會被平臺處罰。

最后，本次事件惡作劇者該當何罪？筆者認為，本次事件只是惡作劇，并未發(fā)生嚴重后果，監(jiān)管部門不一定會介入。但如果惡作劇者掌握漏洞后，發(fā)送的內容是破壞社會秩序的，很可能會被認定為違反《治安管理處罰法》，被處行政處罰，如果情節(jié)嚴重的，還可能構成尋釁滋事罪。

本文作者：游云庭，上海大邦律師事務所高級合伙人，知識產(chǎn)權律師。本文僅代表作者觀點。

[i] http://m.serenwang.com/v/video/VF0KBCS6K.html