即夢緊急下架真人素材生成！胡錫進：AI視頻全民化太可怕了…

來源 | 柴狗夫斯基

撰文 | 小柴

農(nóng)歷新年，似乎成了AI的新年，小柴說的不是AI紅包大戰(zhàn)，而是柴油們有沒有發(fā)現(xiàn)，每年春節(jié)前后，生成式AI都會迎來一波重大的進化。

比如ChatGPT在2023年春節(jié)期間一夜爆火，拉開了一整年的AI大戰(zhàn)，隨后在2024年，文生視頻大模型Sora開啟文生視頻的新紀元。

去年春節(jié)，DeepSeek又一夜間刷屏全球科技圈，真正推動生成式AI徹底成為后互聯(lián)網(wǎng)時代的新基建。

而這兩天，字節(jié)跳動最新一代視頻生成模型Seedance 2.0又開始瘋狂的刷屏。

刷屏的背后是，源于其革命性的技術突破對影視創(chuàng)作、內(nèi)容生產(chǎn)乃至資本市場的三重顛覆性沖擊。

不少人對此表示，體驗了Seedance 2.0感覺Sora就像上個時代的玩具，簡單的說，就是Seedance2.0正在突破虛擬與現(xiàn)實的邊界。

而影視颶風Tim在體驗后，連呼六次恐怖，他表示：「在沒有給任何提示，任何詞語，任何信息的情況下，我也沒有給我的聲音文件，只是把我的臉傳上去，這個AI居然知道這張臉的聲音。」

游戲科學CEO、《黑神話：悟空》制作人馮驥公開評價Seedance 2.0為「當前地表最強的視頻生成模型」，并直言其出現(xiàn)標志著 「AIGC 的童年時代結束」。

而它到底有多恐怖呢？大概是你讓劉亦菲陪你逛街，喂你喝奶茶，你找不出一絲AI痕跡。

而對于seedance2.0也引發(fā)了巨大的爭議，以及擔憂，比如不少人表示，這類AI如果沒有門檻，那任何人的生物信息，會不會被濫用。

還有人擔憂，普通人肖像、聲音可能被低成本盜用合成詐騙內(nèi)容（如偽造親友求助視頻）。

還有博主表示： 技術爆炸帶來的挑戰(zhàn)是，AI的倫理與技術邊界到底在哪？甄別和監(jiān)管又由誰來負責？互聯(lián)網(wǎng)上的我還需要是真人的我嗎？

而大部分網(wǎng)友認為，該能力若未受約束，可能被用于偽造名人視頻、換臉詐騙、侵犯肖像權及制造虛假信息，尤其對公眾人物和普通人的隱私構成威脅。

而胡錫進也是發(fā)文點評，他直言：「AI視頻工具越來越先進了。它是進步，同時帶來糾結。如果全民都玩AI視頻，可是太可怕了。人類會嚴重幻覺，真假的界限將變得模糊。如果大家的休閑被AI嚴重占據(jù)，也很可怕。」

胡錫進還表示，我懷疑，人類被AI搞“膩”會與AI進步來得同樣快。我現(xiàn)在就經(jīng)常恍惚，不知道一些插圖和特朗普這種超級網(wǎng)紅的短視頻是真是假了。每次引用一個東西都要先核實是不是偽造的。

「哈哈，但是AI應用還是要學一點，不能掉隊。專業(yè)人員就更不用說了，AI是強有力的工具。」

面對火熱與爭議，seedance2官方運營人員表示：目前正在針對反饋進行緊急優(yōu)化，暫不支持輸入真人素材作為主體參考，我們深知創(chuàng)意的邊界是尊重。

隨后，相關話題快速沖上熱搜……

對此，也有網(wǎng)友表示，活靈活現(xiàn)到毛骨悚然，技術狂奔時別忘了先穿好倫理的底褲。