法治日?qǐng)?bào)記者 韓博

印度大選正在如火如荼進(jìn)行中。前不久，一段“印度總理莫迪跟著孟加拉語流行音樂跳舞”的人工智能（AI）合成視頻在網(wǎng)上播放量突破千萬，引發(fā)印度網(wǎng)民和媒體的廣泛討論。

事實(shí)上不僅僅是莫迪，幾乎所有參選政黨都利用了人工智能深度偽造視頻技術(shù)（以下簡(jiǎn)稱“深偽”技術(shù)）助選或惡搞政治對(duì)手。

莫迪合成視頻造勢(shì)

據(jù)《印度教徒報(bào)》報(bào)道，雖然在以往的印度大選中，仇恨言論和虛假信息并不讓人陌生，但如今隨著AI技術(shù)的驚人發(fā)展帶來革命性變化，2024年的印度大選將面臨新挑戰(zhàn)。

5月6日，莫迪在社交平臺(tái)X上轉(zhuǎn)發(fā)了自己跳舞的AI合成視頻，并配文稱：“和你們所有人一樣，我也喜歡看自己跳舞。在投票高峰期看到這樣的創(chuàng)意真是讓人快樂！”視頻顯示，“莫迪”隨著節(jié)奏感十足的孟加拉語歌曲跳躍著登上舞臺(tái)，一邊踢腿一邊揮舞手臂。該視頻右下角有著“VIGGLE”字樣的水印，這是一個(gè)可以快速生成AI視頻的免費(fèi)網(wǎng)站。

有網(wǎng)民留言稱贊莫迪是“印度有史以來最酷的總理”。莫迪本人對(duì)此“天降流量”感到驚喜。他在社交媒體X的個(gè)人賬號(hào)上轉(zhuǎn)發(fā)了這條視頻，并留言說：“和你們所有人一樣，我也喜歡看自己跳舞。在投票高峰期看到這樣的創(chuàng)意真是讓人快樂！”

同樣引發(fā)印度網(wǎng)民關(guān)注的，還有印度女政治家、西孟加拉邦首席部長(zhǎng)班納吉的一段“深偽”技術(shù)生成的舞蹈視頻。

《印度時(shí)報(bào)》報(bào)道，隨著各類人工智能工具性能的不斷提高，使用門檻越來越低，包括莫迪領(lǐng)導(dǎo)的印度人民黨和國大黨在內(nèi)的印度各政黨團(tuán)隊(duì)，都在使用“深偽”技術(shù)，制作相關(guān)深度偽造視頻來影響選民。

“我們?cè)趺床拍芟嘈盼覀兛吹交蚵牭降氖虑槟兀楷F(xiàn)在網(wǎng)上有太多明星拉票的視頻了，分清每個(gè)視頻的真實(shí)性幾乎是不可能的?！睂?duì)于“深偽”技術(shù)在國家大選中得到普遍性應(yīng)用，印度選民表達(dá)了自己的擔(dān)憂，“我們應(yīng)該制定嚴(yán)格的法律禁止這種造假行為”。

極大干擾選舉秩序

目前“深偽”技術(shù)生產(chǎn)的視頻已可以跨越語言翻譯的障礙，實(shí)現(xiàn)高度定制化，視頻中的候選人可以叫出觀看網(wǎng)民的名字，“一對(duì)一”地和網(wǎng)民單獨(dú)說話。而這種政治宣傳視頻通常是由競(jìng)選團(tuán)隊(duì)外包給技術(shù)公司完成。

賈登曾是寶萊塢特效師、程序員，現(xiàn)在經(jīng)營(yíng)一家視頻制作工作室。他本人的政治立場(chǎng)屬于中立，不與特定的黨派聯(lián)系在一起，業(yè)務(wù)也不限于特定黨派，他通過廣告公司和游說公司等渠道接單。在本次大選期間，賈登的生意一直處于“爆單”狀態(tài)，幾乎所有主流政黨都有人找他定制過視頻。

賈登的團(tuán)隊(duì)一般3天時(shí)間可以制作一個(gè)視頻，報(bào)價(jià)大約60萬盧比。如果是長(zhǎng)期合作的客戶，他們會(huì)先花一周時(shí)間建立關(guān)于該政客的影像資料庫，讓AI模型進(jìn)行學(xué)習(xí)。如果后期不需要特別高的精度，他們可以在幾分鐘內(nèi)按要求生成一個(gè)該候選人的視頻。

不過賈登也坦言，這種視頻可以是對(duì)候選人的正面宣傳，也可能是對(duì)競(jìng)選對(duì)手的抹黑。

事實(shí)上，在此次印度大選中，利用“深偽”技術(shù)惡搞政治對(duì)手的視頻已經(jīng)出現(xiàn)過多次。對(duì)此，斯坦福大學(xué)人工智能研究院聯(lián)合創(chuàng)始人蘭迪·詹姆斯認(rèn)為，AI造假“從未像現(xiàn)在這樣可以批量化定制化制作”，由于造假成本極低，數(shù)以萬計(jì)的假視頻可能對(duì)正常的選舉秩序造成極大干擾。

印度人工智能公司“The Indian Deepfaker”創(chuàng)始人迪維安德拉·辛格提到，很多客戶希望針對(duì)競(jìng)選對(duì)手定制虛假音視頻，如偽造對(duì)手的極端言論、不當(dāng)行為，甚至虛假色情內(nèi)容等。

迪維安德拉說：“在這場(chǎng)全球規(guī)模最大的選舉中，勢(shì)必會(huì)有大量同行通過制作扭曲事實(shí)的視頻獲得利潤(rùn)。能讓我們保持底線的，只有我們的良心和道德?！?/p>

賈登和迪維安德拉的表態(tài)無疑映射出當(dāng)前印度在“深偽”技術(shù)應(yīng)用管理領(lǐng)域的“裸奔”現(xiàn)狀，道德約束不能替代法律法規(guī)監(jiān)管。

相關(guān)立法亟須完善

針對(duì)當(dāng)前“深偽”技術(shù)泛濫的情況，印度目前沒有針對(duì)“深偽”技術(shù)的法律或法規(guī)。最接近的是2000年5月，印度國會(huì)通過的《信息技術(shù)法案2000》，其中規(guī)定，在沒有征得當(dāng)事人同意的情況下，以偽造或冒充的方式，通過電子渠道發(fā)布和傳播當(dāng)事人私密照片或影像的，處以監(jiān)禁和罰款。

但是上述法案對(duì)“深偽”技術(shù)應(yīng)用界定模糊，約束有限。德里法律政策中心負(fù)責(zé)人謝納茲表示：“現(xiàn)有法律還不夠充分，因?yàn)樗鼈冊(cè)谠O(shè)計(jì)時(shí)從未考慮到這些新興技術(shù)?！彼嬲f，零敲碎打的立法修正案并不是解決方案?！斑€需要有一個(gè)專門執(zhí)行機(jī)構(gòu)來執(zhí)行這些法律?！彼a(bǔ)充道。

今年2月16日，在慕尼黑安全會(huì)議上，微軟、字節(jié)跳動(dòng)、亞馬遜、谷歌在內(nèi)的25家科技公司簽署了《打擊在2024年選舉中欺騙性使用人工智能的技術(shù)協(xié)議》，承諾在這一特殊年份，通過技術(shù)部署減少利用人工智能生成和分發(fā)欺騙性內(nèi)容干擾選舉的風(fēng)險(xiǎn)。

印度拉杰尼蒂政治管理咨詢公司技術(shù)主管德什潘德指出，新媒體內(nèi)容的大規(guī)模擴(kuò)張和向數(shù)字化傳播的轉(zhuǎn)變，凸顯政治信息傳遞方式的革命性變化，標(biāo)志著選舉策略進(jìn)入新時(shí)代，相關(guān)立法工作亟須跟進(jìn)。