“大家好，我是嬋寶，叔叔阿姨可以下單試試”“我是全紅嬋哥哥全進(jìn)華，為大家準(zhǔn)備了2000單的蜂蜜，16塊9發(fā)兩斤”……近期，社交平臺(tái)上多個(gè)賬號(hào)利用全紅嬋及其家人聲音合成AI視頻為商品帶貨。對(duì)此，全紅嬋的家人明確表示均系偽造視頻，不少消費(fèi)者聽(tīng)聞直呼上當(dāng)。
隨著AI合成技術(shù)發(fā)展，仿冒名人明星虛假帶貨頻頻出現(xiàn)。這些不法商家利用公眾對(duì)名人明星的情感投射和信任心理，為博流量通過(guò)AI技術(shù)生成以假亂真的帶貨視頻，或張冠李戴，或無(wú)中生有，或故弄玄虛，手法多端、套路變換，既沒(méi)有真假底線，也沒(méi)有對(duì)法律的敬畏，目的就是收割消費(fèi)者。
AI合成名人明星虛假帶貨，與AI虛假營(yíng)銷(xiāo)亂象背后的黑產(chǎn)鏈條密切相關(guān)。一些利用AI新技術(shù)實(shí)施的虛假宣傳中，往往存在同一產(chǎn)品鏈接跳轉(zhuǎn)至不同網(wǎng)店的情況。加之AI技術(shù)造假成本低，讓批量炮制、快速傳播、隨時(shí)換殼的欺詐營(yíng)銷(xiāo)容易得逞，陷入“造假-流量-變現(xiàn)-更多造假”的惡性循環(huán)。此外，短視頻平臺(tái)對(duì)一些賬號(hào)的入駐資質(zhì)、帶貨視頻內(nèi)容等審核流于形式，冒用賬號(hào)取證難、追責(zé)難，也為AI虛假營(yíng)銷(xiāo)的蔓延“推波助瀾”。
技術(shù)理應(yīng)向上向善，AI合成技術(shù)的使用應(yīng)有邊界。《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等在內(nèi)容審核、信息標(biāo)識(shí)上對(duì)生成式AI的規(guī)范使用提出了要求。對(duì)于濫用AI技術(shù)虛假宣傳“無(wú)底線博流量”的亂象，相關(guān)部門(mén)應(yīng)嚴(yán)厲打擊，加重賠償性懲罰處置。短視頻平臺(tái)應(yīng)主動(dòng)加強(qiáng)對(duì)AI生成內(nèi)容審核，建立AI帶貨可追溯標(biāo)識(shí)，既實(shí)現(xiàn)侵權(quán)行為的實(shí)時(shí)預(yù)警，也實(shí)現(xiàn)虛假侵權(quán)行為的快速“倒查倒追”。消費(fèi)者也應(yīng)主動(dòng)學(xué)習(xí)相關(guān)知識(shí)，提高防騙意識(shí)。
人們樂(lè)見(jiàn)AI技術(shù)助力網(wǎng)絡(luò)消費(fèi)，但絕不允許AI騙術(shù)“張牙舞爪”，侵蝕網(wǎng)絡(luò)消費(fèi)的信任與成色。多方發(fā)力、守土有責(zé)，讓AI合成技術(shù)的應(yīng)用真正規(guī)范起來(lái)，讓違法違規(guī)博流量的行為受到應(yīng)有處罰，才能更好維護(hù)互聯(lián)網(wǎng)數(shù)字消費(fèi)的健康環(huán)境。
責(zé)任編輯：高瑋怡AI
