文／陳根

疫情催生了各種新常態(tài)，從網(wǎng)絡(luò)教學(xué)到遠(yuǎn)程辦公，也讓人們習(xí)慣了各種各樣的視頻會議。這也給黑客利用網(wǎng)絡(luò)進(jìn)行詐騙提供了途徑。

近日，美國聯(lián)邦調(diào)查局（FBI）警告企業(yè)小心不法人士利用虛擬會議工具，發(fā)動俗稱變臉詐騙的商業(yè)電郵詐騙（Business Email Compromise，BEC）。要知道，隨著人工智能技術(shù)的發(fā)展，想要偽造出受害者的人臉已經(jīng)不再是難事，其具體使用的，就是人工智能的“深度合成”技術(shù)，深度合成技術(shù)源于人工智能系統(tǒng)生成對抗網(wǎng)絡(luò)（GAN）的進(jìn)步。

GAN由生成器和識別器兩個相互競爭的系統(tǒng)組成。建立GAN的第一步是識別所需的輸出，并為生成器創(chuàng)建一個培訓(xùn)數(shù)據(jù)集。一旦生成器開始創(chuàng)建可接受的輸出內(nèi)容，就可以將視頻剪輯提供給識別器進(jìn)行鑒別；如果鑒別出視頻是假的，就會告訴生成器在創(chuàng)建下一個視頻時需要修正的地方。

根據(jù)每次的“對抗”結(jié)果，生成器會調(diào)整其制作時使用到的參數(shù)，直到鑒別器無法辨別生成作品和真跡，以此將現(xiàn)有圖像和視頻組合并疊加到源圖像上，最終生成合成視頻。

深度合成通過軟件收集的用戶照片，以及眨眼、搖頭等動態(tài)行為信息，會對用戶的隱私安全等造成傷害。2019 年 3 月份，《華爾街日報》報道，有犯罪分子使用深度偽造技術(shù)成功模仿了英國某能源公司在德國母公司 CEO 的聲音，詐騙了220 000 歐元（約1 730 806人民幣）。其破壞性可見一斑。

正如此次FBI所指出的，從2019年到2021年，F(xiàn)BI接到越來越多和虛擬會議有關(guān)的BEC，攻擊者通常是冒充公司高層或部門主管，命令受害者匯款到詐騙賬號，一如以冒名電子郵件進(jìn)行的詐騙。

根據(jù)FBI，利用新科技進(jìn)行BEC攻擊的手法包括黑客冒充公司CEO或金融主管如首席財務(wù)官（CFO），發(fā)送電子郵件加入虛擬會議，會議中冒用CEO／CFO的靜態(tài)照片，宣稱鏡頭或麥克風(fēng)故障無法操作，有的用deep fake音效，有時不發(fā)聲音，要求員工通過虛擬會議平臺或后續(xù)的電子郵件匯款。有的則是利用CEO郵件賬號插進(jìn)員工的虛擬會議中“旁聽”，以搜集公司業(yè)務(wù)或研發(fā)活動信息。

面對發(fā)生在虛擬會議平臺的變臉詐騙威脅，除了企業(yè)應(yīng)留心不熟悉的虛擬會議等，從社會角度來看，更應(yīng)該對深度合成這樣的技術(shù)進(jìn)行規(guī)制，用技術(shù)對抗技術(shù)的風(fēng)險，用制度將技術(shù)的風(fēng)險限制。

       原文標(biāo)題 : 陳根：虛擬會議偽造人臉，深度合成的技術(shù)危害還在蔓延