如今,AI技術(shù)正以前所未有的方式改變著我們的世界。然而,AI在為我們提供便利的同時,產(chǎn)生的隱患風險也接踵而來。近日,張文宏“被AI帶貨”事件引發(fā)社會廣泛關(guān)注,也讓“AI換臉”再次成為人們熱議的焦點。
“AI換臉”假冒名人事件頻發(fā)
前不久有網(wǎng)友發(fā)現(xiàn),疑似知名醫(yī)生張文宏化身“帶貨主播”,在網(wǎng)絡(luò)平臺售賣產(chǎn)品。經(jīng)核實,這個“張文宏”實際上是通過AI技術(shù)合成的,視頻中的他不斷介紹產(chǎn)品,聲音和形象都與本人極為相似,導致許多消費者信以為真。
對此,張文宏回應稱,這樣假冒自己賣貨的賬號不止一個,而且一直在變,他已多次向平臺投訴,但違規(guī)賬號屢禁不止。
其實,張文宏的遭遇并非個例。近年來,通過AI深度偽造技術(shù)假冒名人的事件頻繁發(fā)生。
2024年國慶期間,網(wǎng)絡(luò)上出現(xiàn)了一些利用AI技術(shù)偽造雷軍聲音和形象的惡搞視頻,視頻中的“雷軍”使用不雅語言對堵車等多個話題進行“銳評”,給雷軍本人帶來了不小的困擾。
2024年11月,江西一位65歲的女士為了資助其所謂的男朋友“靳東”拍攝電影,前往銀行欲辦理200萬元的貸款。經(jīng)調(diào)查發(fā)現(xiàn),該女士在短視頻平臺上認識的“靳東”是騙子冒充的,騙子所發(fā)布的視頻也是由AI合成的。
“眼見非實”的AI技術(shù)存在破綻
所謂“AI換臉”,實際上是通過精準識別人臉圖像,提取關(guān)鍵面部特征,并利用深度合成技術(shù)將這些特征與目標人臉圖像進行匹配、替換、融合。在此基礎(chǔ)上,通過背景環(huán)境渲染和合成聲音的添加,生成看起來非常真實的虛假視頻。這一技術(shù)也徹底顛覆了人們對于“眼見為實”的傳統(tǒng)認知。
技術(shù)本身并無善惡,只是一些不法分子為了謀取私利,濫用此技術(shù),將一些名人的臉替換到特定的視頻中,制造出虛假的內(nèi)容,實行詐騙。
盡管換臉AI模仿能力強,但是并非沒有破綻。通過AI合成的視頻,往往存在許多AI痕跡。比如,人物的面部表情、眼神和動作可能不協(xié)調(diào),尤其是在表情的細微變化和眼神的自然流轉(zhuǎn)上;也會出現(xiàn)視頻畫面不連貫、背景與人物融合不自然等情況;同時,還會出現(xiàn)語音、語速和口型不匹配的問題。
此外,“AI換臉”也存在一定的局限性,如果進行面部和聲音同時替換的操作,只能制作成視頻,無法做到實時直播。
如何防范“AI換臉”帶來的風險
當前,“AI換臉”技術(shù)帶來的負面效應越來越多,亟需采取多方面措施來應對這些風險。
首先,平臺應強化技術(shù)手段。嚴格審核賬號上傳發(fā)布的內(nèi)容,對視頻畫面進行實時監(jiān)測和分析,如果發(fā)現(xiàn)存在虛假宣傳、誤導消費者等行為,應及時采取措施進行干預。
其次,用戶需要提高警惕性和辨別能力。在觀看視頻時要保持謹慎,不要輕易相信視頻中的內(nèi)容。特別是對于涉及到金錢交易、個人信息等重要事項,要通過多種渠道進行核實,避免上當受騙。
此外,立法、執(zhí)法、司法力度仍需加強。目前,我國已經(jīng)出臺了《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》《生成式人工智能服務管理暫行辦法》等法律法規(guī),然而隨著技術(shù)的不斷發(fā)展和應用場景的日益復雜,法律體系仍需進一步深化、細化,以確保立法能夠緊跟技術(shù)發(fā)展的步伐,通過法治手段引導技術(shù)向善;在執(zhí)法、司法環(huán)節(jié),嚴厲打擊利用“AI換臉”等技術(shù)進行非法活動的行為,減少AI違法犯罪對社會帶來的負面影響。
