近期，調(diào)查發(fā)現(xiàn)，不少社交賬號利用AI技術(shù)造假、博眼球快速“吸粉”起號，在未標注AI生成的情況下大量推送穿搭、養(yǎng)生、情感等內(nèi)容，并可通過引流帶貨、賬號轉(zhuǎn)賣等方式變現(xiàn)。部分視頻細節(jié)逼真，足以讓普通網(wǎng)友信以為真，由此形成一條AI造假起號的灰色產(chǎn)業(yè)鏈。

虛擬“氛圍感美女”“銀發(fā)養(yǎng)生奶奶”，看似突破傳統(tǒng)內(nèi)容創(chuàng)意范疇，實則扭曲了內(nèi)容創(chuàng)作的真實邏輯。造假者利用AI博取平臺流量，本質(zhì)上是將技術(shù)異化成投機牟利的工具。虛假AI人設(shè)成為追逐商業(yè)利益的“科技畫皮”，不僅藐視傳統(tǒng)內(nèi)容創(chuàng)作者的時間與精力，還有突破誠信與法律底線的可能?？此茻o傷大雅的視頻，背后卻可能潛藏非法產(chǎn)品銷售、隱性廣告推廣和健康信息誤導(dǎo)等風險，更破壞了網(wǎng)絡(luò)真實生態(tài)與平臺監(jiān)管信用。

技術(shù)本身是中性的，關(guān)鍵在于使用者的動機與平臺的監(jiān)管。生成式AI本可讓普通人以低門檻實現(xiàn)內(nèi)容創(chuàng)意表達，但落入造假逐利者手中，便有了“批量制造虛假人設(shè)”的可能。此類視頻，如若被流量推薦針對特定人群進行情感營銷，極易引發(fā)誤導(dǎo)效應(yīng)和跟風消費，成為灰色產(chǎn)業(yè)發(fā)展的助推器。

AI造假批量起號亂象背后，平臺需要迫切反思技術(shù)介入內(nèi)容創(chuàng)作背景下，如何理清流量投放的“真實邏輯”？如何避免因流量驅(qū)使推送虛假內(nèi)容“為虎作倀”？傳統(tǒng)的內(nèi)容創(chuàng)作流量是通過優(yōu)質(zhì)內(nèi)容進行變現(xiàn)，而其中的起號、漲粉到帶貨邏輯，成熟的“技術(shù)—運營—交易”鏈條，以及誘人的短期收益，多少人正被披上科技外衣的AI“李鬼賬號”收割，平臺是否監(jiān)管到位值得深思。然而， AI造假者通過壓縮文件、消除特征痕跡等手段規(guī)避審核，這也反映出目前平臺監(jiān)管確實存在明顯滯后問題。

AI技術(shù)成為造假者的流量變現(xiàn)工具，打擊“3到15天速成萬粉號”的批量起號造假現(xiàn)象。平臺首先需把好“第一道關(guān)口”，內(nèi)容審核機制必須與造假方式同步進化，對特定規(guī)避手段升級識別能力，壓實生成平臺對AI生成內(nèi)容添加清晰標識的責任。同時，不能讓違規(guī)賬號有穩(wěn)定帶貨機會，對違規(guī)賬號轉(zhuǎn)售交易零容忍，只有切斷利潤源頭，才能讓AI造假失去持續(xù)運作土壤。另外，平臺還需要強化處罰處理規(guī)則，建立違規(guī)賬號“黑名單”，對于重復(fù)進行AI造假的賬號，提高封禁和經(jīng)濟處罰力度，直至剝奪其商業(yè)化資格，徹底堵死流量變現(xiàn)暗道。

AI應(yīng)是未來內(nèi)容生產(chǎn)的重要引擎，絕不能被造假引入流量投機的歧途。AI技術(shù)需要助力真實、優(yōu)質(zhì)、負責任的內(nèi)容，從而獲得正向流量，成為提升社會信息質(zhì)量的“加分項”，而不是消解網(wǎng)絡(luò)誠信的“減分題”。

來源：紅網(wǎng)   作者：張宜威