近日,一系列由AI生成的配音視頻在網(wǎng)絡上引發(fā)關注,其逼真程度令人驚訝,不僅畫面栩栩如生,聲音特征也與真人幾乎無異,短時間內(nèi)便收獲了過億次的播放量。然而,這些視頻中的內(nèi)容與畫面中的公眾人物毫無關聯(lián),現(xiàn)已被平臺下架。
AI技術的發(fā)展降低了深度偽造和低價量產(chǎn)的門檻,AI生成影像、換聲及換臉視頻大量出現(xiàn)。這些視頻雖吸引眼球,但背后隱藏的風險卻不容忽視。
當前,虛假信息的制造和傳播已成為全球性問題,以假亂真的AI合成技術讓普通人在信息甄別上陷入困境!2024年人工智能安全報告》顯示,基于AI的深度偽造欺詐在2023年激增30倍,對網(wǎng)絡安全和社會安全構成嚴重威脅。虛假信息的泛濫,不僅擾亂了網(wǎng)絡空間的正常秩序,更可能將負面情緒從虛擬世界傳導至現(xiàn)實,加劇社會焦慮。
應對深度偽造等亂象,需要多方協(xié)作、共同治理。目前,我國已出臺《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》等法律法規(guī),從源頭加強內(nèi)容管理。同時,《人工智能生成合成內(nèi)容標識辦法(征求意見稿)》的發(fā)布,也標志著國家層面正加大對AI技術的監(jiān)管力度。只有讓AI在合法合規(guī)的框架內(nèi)健康發(fā)展,才能讓人們真正享受到技術變革帶來的紅利,推動人工智能產(chǎn)業(yè)良性發(fā)展。
作為信息傳播的重要一環(huán),平臺運營商和服務提供者也應承擔起相應的責任,對AI生成內(nèi)容劃定紅線,嚴禁違法違規(guī)、侵權欺詐內(nèi)容的傳播,并添加顯著提示標識,防范虛假信息擴散。此外,利用數(shù)字水印、時間戳、哈希函數(shù)等技術手段,既能提高信息真實性的可驗證性,也是防范虛假信息傳播的有效手段。作為內(nèi)容消費者,受眾也應保持警惕,提高辨別AI生成內(nèi)容的能力,避免偏聽偏信。