外國(guó)人熟練演唱中文歌曲、銀發(fā)奶奶傳授養(yǎng)生秘訣、氛圍感女孩分享穿搭美學(xué)……社交媒體上，一些AI生成的視頻關(guān)注度頗高，“細(xì)節(jié)滿滿”讓很多網(wǎng)友信以為真。記者調(diào)查發(fā)現(xiàn)，不少社交賬號(hào)利用AI技術(shù)造假、博眼球快速“吸粉”起號(hào)，進(jìn)而變現(xiàn)。近期，多個(gè)平臺(tái)對(duì)“AI起號(hào)”現(xiàn)象開展專項(xiàng)治理行動(dòng)，清理違規(guī)內(nèi)容并封禁部分賬號(hào)（據(jù)8月11日新華網(wǎng)）。
所謂“起號(hào)”，即通過(guò)批量生產(chǎn)內(nèi)容快速積累粉絲、提升賬號(hào)商業(yè)價(jià)值，進(jìn)而形成可交易或變現(xiàn)的網(wǎng)絡(luò)資產(chǎn)。隨著生成式AI工具的普及，“起號(hào)”門檻大幅降低。在“單賬號(hào)月入過(guò)萬(wàn)”的利益驅(qū)動(dòng)下，一些操作者瞄準(zhǔn)情感、養(yǎng)生、美妝等易引發(fā)共情的領(lǐng)域，用AI生成“銀發(fā)奶奶”“美女博主”等形象精準(zhǔn)吸引特定群體，通過(guò)電商帶貨、賬號(hào)轉(zhuǎn)賣等方式變現(xiàn)，形成“起號(hào)、轉(zhuǎn)型、轉(zhuǎn)賣”的灰色產(chǎn)業(yè)鏈。
從法律層面來(lái)看，AI造假起號(hào)絕非技術(shù)游戲，而是涉嫌多項(xiàng)違法的嚴(yán)肅問(wèn)題。根據(jù)反電信網(wǎng)絡(luò)詐騙法，任何單位和個(gè)人不得非法買賣、出租、出借互聯(lián)網(wǎng)賬號(hào)，情節(jié)嚴(yán)重者可追究刑事責(zé)任。同時(shí)，廣告法明確禁止虛假宣傳，AI生成的虛擬人物若隱瞞“非真人”身份進(jìn)行商業(yè)推廣，已涉嫌欺騙消費(fèi)者，經(jīng)營(yíng)者需承擔(dān)相應(yīng)責(zé)任。平臺(tái)作為網(wǎng)絡(luò)服務(wù)提供者，若未履行審核義務(wù)，放任虛假賬號(hào)泛濫，同樣需要承擔(dān)管理責(zé)任。
治理此類亂象，面臨著多重現(xiàn)實(shí)挑戰(zhàn)。一方面，技術(shù)對(duì)抗的“貓鼠游戲”持續(xù)上演，造假者通過(guò)壓縮文件、修改代碼等方式規(guī)避平臺(tái)AI識(shí)別，增加了監(jiān)管難度；另一方面，法律適用存在模糊地帶，AI生成內(nèi)容的標(biāo)注義務(wù)、虛擬賬號(hào)的歸屬等問(wèn)題缺乏細(xì)化規(guī)定，導(dǎo)致追責(zé)時(shí)常陷入“取證難、認(rèn)定難”困境。加之賬號(hào)交易多通過(guò)加密聊天工具進(jìn)行，資金流向隱蔽，也給溯源打擊帶來(lái)挑戰(zhàn)。
技術(shù)每前進(jìn)一步，治理就要跟進(jìn)一步。事實(shí)上，監(jiān)管部門的治理腳步從未停歇。中央網(wǎng)信辦今年4月啟動(dòng)的“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)，7月開展的“清朗·整治‘自媒體’發(fā)布不實(shí)信息”專項(xiàng)行動(dòng)，均將AI造假列為重點(diǎn)整治內(nèi)容，體現(xiàn)了對(duì)新技術(shù)濫用問(wèn)題的高度重視。
魔高一尺，道高一丈。考慮到如今AI造假能力之強(qiáng)，要徹底鏟除AI造假“起號(hào)”的灰色產(chǎn)業(yè)鏈，關(guān)鍵在于以技術(shù)優(yōu)勢(shì)形成絕對(duì)壓制。相較于不法分子，監(jiān)管部門與網(wǎng)絡(luò)平臺(tái)手握更雄厚的技術(shù)資源、更完整的數(shù)據(jù)鏈條和更強(qiáng)大的研發(fā)能力，能夠通過(guò)技術(shù)賦能實(shí)現(xiàn)對(duì)新技術(shù)違法犯罪的“冒頭即打、露頭就滅”。平臺(tái)需構(gòu)建“識(shí)別—攔截—溯源”技術(shù)體系，用深度模型精準(zhǔn)識(shí)別偽裝的AI內(nèi)容，建立違規(guī)賬號(hào)“黑名單”，定向阻斷變現(xiàn)鏈條，讓造假者無(wú)利可圖。監(jiān)管部門可搭建全國(guó)性監(jiān)測(cè)平臺(tái)，追蹤賬號(hào)交易異常，解碼隱蔽交易信息，聯(lián)動(dòng)打擊產(chǎn)業(yè)鏈節(jié)點(diǎn)。同時(shí)，要暢通技術(shù)化舉報(bào)渠道，形成全民監(jiān)督合力，讓灰色產(chǎn)業(yè)鏈?zhǔn)プ躺寥馈?/p>
AI的價(jià)值在于擬人化服務(wù)而非擬人化欺騙，在于賦能發(fā)展而非助力亂象。我們期待以專項(xiàng)行動(dòng)為契機(jī)，加快推動(dòng)AI造假治理向以技術(shù)對(duì)技術(shù)、以技術(shù)管技術(shù)的進(jìn)階，讓數(shù)字空間真正成為滋養(yǎng)文明的沃土。
（責(zé)任編輯：梁艷）
晉公網(wǎng)安備 14090202000008號(hào) 
