AI重塑消費(fèi)場景，卻藏著前所未有的“侵權(quán)陷阱”
人工智能技術(shù)的爆發(fā)式發(fā)展，正以顛覆性力量重塑消費(fèi)場景，同時(shí)也出現(xiàn)了一系列前所未有的侵權(quán)形態(tài)。從AI仿冒名人虛假營銷，到算法“殺熟”精準(zhǔn)收割，再到數(shù)據(jù)濫用和算法歧視。消費(fèi)者該如何避開這些“技術(shù)坑”？
AI數(shù)字人成營銷“幫兇”
專盯老人情感弱點(diǎn)
在采訪中，有消費(fèi)者向記者反映：“去年年底，家里的老人在瀏覽網(wǎng)絡(luò)賣貨視頻時(shí)，看到了‘張文宏醫(yī)生’推廣一款蛋白棒的內(nèi)容。老人對此深信不疑，不僅下單購買，還轉(zhuǎn)發(fā)到了多個(gè)群聊中。后來，在各視頻平臺上已無法搜索到該賬號，但類似的騙局仍在不斷上演?！?/p>
據(jù)記者了解，去年就有網(wǎng)友利用AI制作劉德華的聲音博取流量。劉德華電影公司緊急發(fā)布聲明，提醒網(wǎng)民不要落入偽造劉德華聲音的AI語音合成技術(shù)騙局。此外，一些公眾人物也未能幸免，其形象、聲音被不法分子惡意利用推廣商品，不僅損害了公眾人物的聲譽(yù)，還讓消費(fèi)者陷入被騙風(fēng)險(xiǎn)。
北京某科技公司網(wǎng)絡(luò)反詐騙軟件工程師劉乃文介紹說，詐騙分子不僅利用公眾人物形象，還將AI數(shù)字人包裝成“理財(cái)專家”“老中醫(yī)”“情感導(dǎo)師”等形象，欺騙消費(fèi)者進(jìn)行消費(fèi)。
目前數(shù)字人主播不斷細(xì)分，出現(xiàn)了專打感情牌的數(shù)字人主播，針對進(jìn)入直播間的老年女性，使用“寶貝姐姐”“每隔幾分鐘查看你是否在線”等話術(shù)誘騙消費(fèi)者購買劣質(zhì)商品。這些數(shù)字人主播的售價(jià)在5000元左右，并配套提供“孤獨(dú)老人話術(shù)庫”“健康焦慮腳本”等標(biāo)準(zhǔn)化話術(shù)。這些通過算法優(yōu)化的話術(shù)，精準(zhǔn)擊中老年群體的情感需求，讓他們在不知不覺中陷入騙局。更隱蔽的是，部分直播間對“AI生成”的標(biāo)注模糊不清，甚至直接缺失，消費(fèi)者稍不留意就可能掉入陷阱。
面對日益嚴(yán)峻的AI數(shù)字人欺詐問題，相關(guān)部門出臺了一系列法規(guī)進(jìn)行規(guī)范。
《生成式人工智能服務(wù)管理暫行辦法》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法規(guī)，對AI數(shù)字人和AI生成內(nèi)容的標(biāo)識、數(shù)據(jù)來源等提出了具體要求。今年3月，國家網(wǎng)信辦等4部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》，通過標(biāo)識提醒用戶辨別虛假信息，規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標(biāo)識行為，為規(guī)范AI生成內(nèi)容劃定紅線。
據(jù)“網(wǎng)信中國”微信公眾號7月9日發(fā)布的消息，中央網(wǎng)信辦整治AI技術(shù)濫用，第一階段累計(jì)處置違規(guī)小程序、應(yīng)用程序、智能體等AI產(chǎn)品3500余款，清理違法違規(guī)信息96萬余條，處置賬號3700余個(gè)。
算法“殺熟”精準(zhǔn)收割
“千人千價(jià)”消費(fèi)者難察覺
算法本是提升體驗(yàn)的工具，卻成了部分企業(yè)“精準(zhǔn)收割”的利器。
算法“殺熟”，簡單來說，就是經(jīng)營者借助大數(shù)據(jù)技術(shù)，廣泛收集用戶的個(gè)人數(shù)據(jù)，再通過算法深度剖析消費(fèi)習(xí)慣、價(jià)格敏感度等關(guān)鍵信息，進(jìn)而對不同用戶群體實(shí)施個(gè)性化定價(jià)。在采訪中，多位消費(fèi)者向記者表示有過被殺熟的經(jīng)歷。消費(fèi)者李女士在某知名旅游平臺預(yù)訂酒店時(shí)，同一時(shí)間、同一酒店、同一房型，她手機(jī)顯示的價(jià)格比朋友高出60元。消費(fèi)者張先生使用某網(wǎng)約車平臺時(shí)，發(fā)現(xiàn)相同的起點(diǎn)和終點(diǎn)，自己的費(fèi)用比同事高出5元。
記者還了解到，有的電商平臺根據(jù)用戶消費(fèi)數(shù)據(jù)，選擇性發(fā)放優(yōu)惠券，高消費(fèi)用戶被排除在外。一些平臺還利用算法操控后臺，依據(jù)用戶退貨記錄動態(tài)調(diào)整售后政策，高頻退貨用戶被扣除高額運(yùn)費(fèi)，部分用戶的售后通道被自動關(guān)閉。
劉乃文介紹說，算法“殺熟”的核心是“黑箱操作”：企業(yè)通過分析用戶消費(fèi)習(xí)慣、價(jià)格敏感度，用復(fù)雜算法實(shí)現(xiàn)“千人千價(jià)”，但消費(fèi)者很難察覺——你永遠(yuǎn)不知道“為什么自己看到的價(jià)格更高”，更難舉證維權(quán)。有人無奈總結(jié)“反殺攻略”：清緩存、換設(shè)備、用新賬號比價(jià)……這些“小聰明”背后，藏著消費(fèi)者的被動與無奈。
信息泄露、算法歧視成痛點(diǎn)
用戶信息成了AI 的“免費(fèi)燃料”
記者調(diào)查發(fā)現(xiàn)，從數(shù)據(jù)收集到消費(fèi)決策干預(yù)，由于AI技術(shù)存在濫用問題，使得消費(fèi)者陷入信息泄露、算法歧視的困境中。
據(jù)專業(yè)人士介紹，獲取并處理海量數(shù)據(jù)所需的成本較高，在激烈的市場競爭壓力下，部分企業(yè)為了快速搶占技術(shù)高地、降低研發(fā)成本，開始在數(shù)據(jù)獲取的“灰色地帶”游走，將消費(fèi)者的個(gè)人信息悄無聲息地轉(zhuǎn)化為訓(xùn)練AI模型的“免費(fèi)午餐”。
記者在采訪中發(fā)現(xiàn)，在用戶注冊App、軟件或購買產(chǎn)品時(shí)，部分企業(yè)通過設(shè)置“默認(rèn)勾選”同意隱私政策的方式，利用用戶的疏忽或操作慣性，在未獲得其明確、真實(shí)意愿的情況下，便將其個(gè)人信息納入數(shù)據(jù)收集范圍。更有甚者，隱私政策條款晦澀冗長，充斥著大量專業(yè)術(shù)語和模糊表述，如同精心編織的“法律迷宮”。這些模糊條款為企業(yè)后續(xù)的數(shù)據(jù)濫用埋下了伏筆。
據(jù)劉乃文介紹，目前AI對用戶行為的深度解析能力，被一些企業(yè)轉(zhuǎn)化為操控消費(fèi)決策的工具。有的應(yīng)用軟件利用AI生成“定制化內(nèi)容”，通過分析用戶興趣偏好推送誘導(dǎo)性廣告，甚至虛構(gòu)“限時(shí)優(yōu)惠”“朋友已購買”等場景，誘導(dǎo)消費(fèi)者在非理性狀態(tài)下下單。算法還存在歧視問題。個(gè)別貸款平臺通過AI算法對用戶進(jìn)行“數(shù)字畫像”，將低收入群體、農(nóng)村戶籍用戶自動歸類為“高風(fēng)險(xiǎn)客戶”，直接拒絕其貸款申請或提高利率。
天津四方君匯律師事務(wù)所律師吳子畏對記者說，面對AI侵權(quán)，消費(fèi)者往往陷入舉證難、追責(zé)難、賠償難的“三難”境地。由于AI決策過程具有“黑箱”特性，消費(fèi)者難以證明自身權(quán)益受損與算法之間的因果關(guān)系。企業(yè)則以“商業(yè)秘密”“技術(shù)復(fù)雜”為由拒絕披露算法邏輯。此外，跨國數(shù)據(jù)流動、多平臺數(shù)據(jù)共享等新型場景，進(jìn)一步模糊了侵權(quán)責(zé)任主體，導(dǎo)致消費(fèi)者維權(quán)成本高昂。他建議，建立針對AI技術(shù)的專項(xiàng)監(jiān)管框架，明確數(shù)據(jù)收集邊界、算法審計(jì)標(biāo)準(zhǔn)及侵權(quán)賠償機(jī)制。同時(shí)，消費(fèi)者應(yīng)增強(qiáng)數(shù)據(jù)保護(hù)意識，謹(jǐn)慎授權(quán)應(yīng)用權(quán)限。
編輯：遲明緒
京公網(wǎng)安備 11010502000576號