長(zhǎng)三角MOMO

豆包成功拿下了春晚，在這個(gè)舉國(guó)同慶的時(shí)刻，AI除了要下載量和用戶之外，能不能在防詐這一塊，做點(diǎn)好事？畢竟，現(xiàn)在AI已經(jīng)讓虛擬和現(xiàn)實(shí)，傻傻分不清楚，每個(gè)人都陷入了要識(shí)別豆老師的窘境。

大頭針火了，靠著“歌聲中連布洛芬都止不住的痛”。

最早聽(tīng)到大頭針，是他翻唱孟庭葦?shù)摹赌憧茨憧丛铝恋哪槨�，把本�?lái)那種含蓄的、小女生傷感的告別，生生變成了吼出所有委屈的宣泄。

除了這首，他翻唱的《很愛(ài)很愛(ài)你》《淚海》《星語(yǔ)心愿》等等老歌，也被各平臺(tái)的算法瘋狂推薦。

我就很好奇這么強(qiáng)的一位歌手怎么就突然出來(lái)了，搜了一下才知道，這是酷狗用AI技術(shù)打造的虛擬人。這個(gè)我真沒(méi)聽(tīng)出來(lái)，問(wèn)了一圈身邊的朋友，很少有人知道大頭針是個(gè)AI。

這讓我想起來(lái)最近很流行的一個(gè)梗：“看起來(lái)又像豆老師的作品。”

這個(gè)說(shuō)法，最早是網(wǎng)友對(duì)豆包等AI工具一些早期、略顯生硬內(nèi)容的戲稱。但現(xiàn)在，它有了新的指代——一段特別工整的文案，一張有點(diǎn)“完美”但怪怪的圖，或者一個(gè)反常識(shí)但乍看分不出真假的視頻。

這個(gè)梗的流行，說(shuō)明我們的眼睛和耳朵，在當(dāng)前時(shí)代，需要訓(xùn)練出一種新的能力：分辨哪些內(nèi)容可能來(lái)自機(jī)器。

但很遺憾的是，隨著AI的進(jìn)步，碳基和硅基內(nèi)容“假假分不清楚”的時(shí)代，越來(lái)越近了。

不久前，小鵬就遭遇了一場(chǎng)“AI偽造”風(fēng)波。當(dāng)時(shí)，網(wǎng)絡(luò)上流傳出一段據(jù)稱是小鵬參加車展的不雅視頻，引發(fā)輿情。但后來(lái)根據(jù)警情通報(bào)，這是某人利用AI技術(shù)生成的虛假視頻，這位被行政拘留了10天。

那段視頻我此前也看到了，當(dāng)時(shí)理性告訴我這肯定是假的，但眼睛是真看不出來(lái)。

不僅是小鵬一家企業(yè)被“豆老師的作品”所困擾，我梳理了下，AI仿真內(nèi)容目前至少造成了四大危害。

一、最直接的危害是網(wǎng)絡(luò)詐騙。

比如，湖北黃石的三位老人，他們接到“孫子”帶著哭腔的求助電話，毫不懷疑地交出了數(shù)萬(wàn)元現(xiàn)金，因?yàn)殡娫捘穷^的聲音與孫兒一模一樣。這種AI擬聲騙局，成功率與危害性遠(yuǎn)非傳統(tǒng)騙術(shù)可比。 

二、假冒侵權(quán)泛濫，公眾人物成為重災(zāi)區(qū)。

換臉和聲音克隆技術(shù)，讓盜用身份變得輕而易舉，奧運(yùn)冠軍全紅嬋、孫穎莎的聲音曾被克隆用于直播帶貨，演員溫崢嶸也公開(kāi)過(guò)被假冒直播間AI換臉的遭遇。

一位名叫“小驢圓圓”的網(wǎng)紅鼓手告訴我，她此前最多的維權(quán)是別人錄播后盜播，而現(xiàn)在，她的打鼓形象，被AI制作到好多歌手、偶像題材的短劇里。而后者維權(quán)起來(lái)更復(fù)雜，成本更高。

三、“虛假種草”誤導(dǎo)消費(fèi)決策。

就在杭州，今年判了浙江首例涉AI技術(shù)商業(yè)化應(yīng)用案，認(rèn)定AI寫作工具專門生成虛假“種草”筆記，是違法的。這些精心編織的“用戶體驗(yàn)”和“親測(cè)推薦”，系統(tǒng)性誤導(dǎo)消費(fèi)者，也令誠(chéng)信商家的努力付諸東流。鄭州也有類似案件，商家利用AI生成大量虛假用戶好評(píng)進(jìn)行刷單，被判為不正當(dāng)競(jìng)爭(zhēng)。

四、批量造謠已形成黑色產(chǎn)業(yè)鏈。

前幾年有個(gè)很著名的“江西幫”，就是利用AI工具批量生產(chǎn)虛假內(nèi)容賺流量費(fèi)，我以為基本都被打掉了。結(jié)果本周又看到一個(gè)消息，煙臺(tái)公安發(fā)現(xiàn)有個(gè)團(tuán)伙抓取“小米”“華為”“理想”等關(guān)鍵詞，借助AI批量生產(chǎn)低質(zhì)、雷同的“網(wǎng)絡(luò)垃圾”，其目的僅僅是為了賺取平臺(tái)流量帶來(lái)的收益，相關(guān)賬號(hào)8000余個(gè)。

AI每天可以生產(chǎn)數(shù)千條不實(shí)信息，從編造企業(yè)謠言導(dǎo)致門店?duì)I業(yè)額暴跌，到生成虛假災(zāi)情視頻引發(fā)社會(huì)恐慌。這種工業(yè)化、規(guī)�；�的造謠能力，正以極低成本污染整個(gè)信息環(huán)境，侵蝕社會(huì)信任的基石，造成的危害更大。

當(dāng)虛假內(nèi)容的生產(chǎn)變得如此高效和廉價(jià)，我們賴以判斷世界真實(shí)性的基礎(chǔ)——所見(jiàn)、所聞乃至他人的經(jīng)驗(yàn)分享——都開(kāi)始動(dòng)搖，那么，怎樣才能治理？

我大概能想到以下五個(gè)方向。

一、AI工具需要承擔(dān)更多責(zé)任。

AI生成內(nèi)容的強(qiáng)制標(biāo)識(shí)制度，是實(shí)現(xiàn)“隔離”的第一步�，F(xiàn)在也有一些初步的成效，比如百度“文心一言”、抖音AI特效等，均在生成內(nèi)容時(shí)自動(dòng)添加水印或標(biāo)簽，標(biāo)明其AI身份。

二，魔法打敗魔法，AI檢測(cè)技術(shù)盡快成型。

國(guó)內(nèi)外一些科技公司已經(jīng)在研發(fā)AI生成內(nèi)容檢測(cè)工具了。目前，一些檢測(cè)工具已經(jīng)可以通過(guò)分析圖像的像素級(jí)特征、文本的邏輯連貫性等，有效識(shí)別出大部分AI生成內(nèi)容，為人工審核提供關(guān)鍵輔助。

三、平臺(tái)應(yīng)該開(kāi)放公眾參與的糾錯(cuò)機(jī)制。

針對(duì)AI的“幻覺(jué)”與錯(cuò)誤，需建立更開(kāi)放的反饋渠道。更好的機(jī)制應(yīng)超越簡(jiǎn)單的“點(diǎn)贊/踩”，設(shè)立專門的錯(cuò)誤上報(bào)通道，并輔以專家團(tuán)隊(duì)對(duì)復(fù)雜問(wèn)題復(fù)核。這能將用戶發(fā)現(xiàn)變?yōu)閮?yōu)化模型的集體力量。

四、對(duì)高風(fēng)險(xiǎn)內(nèi)容實(shí)施分級(jí)管理。

平臺(tái)需對(duì)危害程度不同的內(nèi)容采取差異化措施。對(duì)于仿冒公眾人物、偽造權(quán)威新聞等高風(fēng)險(xiǎn)內(nèi)容，是不是可以采取強(qiáng)提示、限流甚至禁止傳播等嚴(yán)格管理措施。比如，對(duì)AI生成的“名人演講”視頻，添加更加醒目的警示。

五、探索“可驗(yàn)證的真實(shí)”技術(shù)路徑。

終極方案是為真實(shí)內(nèi)容鑄造“技術(shù)身份證”。目前知識(shí)產(chǎn)權(quán)領(lǐng)域已經(jīng)可以從拍攝設(shè)備端開(kāi)始，為原創(chuàng)內(nèi)容綁定不可篡改的數(shù)字憑證（如加密數(shù)字水印、區(qū)塊鏈存證）。今后，重要的新聞、證據(jù)、官方信息等發(fā)布，是不是都可以采用這種技術(shù)防火墻？

總之，當(dāng)我們下次再調(diào)侃某個(gè)內(nèi)容“看起來(lái)又像豆老師的作品”時(shí)，這份警覺(jué)心或許不應(yīng)該僅僅停留在玩笑層面。AI生成的東西，如何和現(xiàn)實(shí)世界進(jìn)行一個(gè)隔離，是我們必須要解決掉的問(wèn)題，否則人類必然會(huì)迎來(lái)一個(gè)倫理崩塌的時(shí)代。

治理AI虛假內(nèi)容，就是為了捍衛(wèi)人類社會(huì)中信任、真實(shí)與尊嚴(yán)這些更寶貴的基石。

畢竟，最終決定未來(lái)是走向繁榮還是崩塌的，不是AI的能力，而是我們的選擇。

豆包今年成功拿下了春晚，如何防詐是不是才應(yīng)該是主題？科技向善，才是科技的正確方向，在各種AI作惡的雜音之下，豆包是不是應(yīng)該在春節(jié)這個(gè)時(shí)間段，提供一些正向的思路，比如幫助留守老人辨別是非，避免被騙，提高平臺(tái)對(duì)AI內(nèi)容的識(shí)別率等等。

AI可以融入我們的社會(huì)，但是不能篡改我們的真實(shí)。

       原文標(biāo)題 : 看起來(lái)又像豆老師的作品