法眼觀察|被"換臉"詐騙侵蝕的信任該如何找回_世界滾動(dòng)

(資料圖)

近日,福建省福州市某科技公司法人代表郭先生10分鐘內(nèi)被詐騙分子利用AI換臉詐騙430萬(wàn)元。主要原因是郭先生基于已有和對(duì)方偽裝的“好友”視頻聊天的信任,且對(duì)方表示只想公對(duì)公賬戶過(guò)賬,并已將銀行轉(zhuǎn)賬截圖發(fā)了過(guò)來(lái),郭先生就直接轉(zhuǎn)賬了。隨后,郭先生撥通好友電話告知轉(zhuǎn)賬成功,結(jié)果對(duì)方說(shuō)沒(méi)有這回事,他這才意識(shí)到遇上了騙局(據(jù)5月20日“平安包頭”微信公眾號(hào)消息)。

不寒而栗,是很多人看到這則案例的第一感受。這意味著,關(guān)乎借錢(qián)、轉(zhuǎn)賬等金錢(qián)交易安全的網(wǎng)絡(luò)視頻和語(yǔ)音的面孔、聲音確認(rèn),幾乎已不能支撐身份核驗(yàn),現(xiàn)代社會(huì)的信任體系在逐步被技術(shù)所侵蝕。

這個(gè)案件中,有很多細(xì)節(jié)讓人細(xì)思極恐。第一,詐騙分子盜取郭先生好友的微信,并與郭先生視頻提出高額資金轉(zhuǎn)賬,這首先需要明確郭先生的確有此經(jīng)濟(jì)實(shí)力。盜取一個(gè)人的微信,并知道他微信好友的資產(chǎn),這些隱私信息都是如何泄露的?第二,詐騙分子盜取郭先生好友的微信,并通過(guò)AI換臉與郭先生視頻。視頻結(jié)束,郭先生轉(zhuǎn)賬結(jié)束后,再發(fā)微信給好友時(shí),微信的掌控者已切換回郭先生好友了。微信“了無(wú)痕跡”地失竊又“悄無(wú)聲息”地返還,這種新的微信盜取方式是如何實(shí)現(xiàn)的,值得公安機(jī)關(guān)重點(diǎn)關(guān)注。第三,該案中當(dāng)事人報(bào)警后,福建福州、內(nèi)蒙古包頭兩地警銀成功止付攔截了336.84萬(wàn)元,但仍有93.16萬(wàn)元被轉(zhuǎn)移。視頻對(duì)話尚可作假,如果連郭先生好友的電話也被犯罪分子利用技術(shù)所控制,例如通過(guò)騷擾電話錄音等來(lái)提取某人聲音,獲取素材后偽造聲音,那將真是做戲做全套的詐騙,恐怕這次資金的攔截將更無(wú)時(shí)間和可能性了。

那么,未來(lái)面對(duì)重要事務(wù),但遠(yuǎn)距離的人們打電話、打視頻都無(wú)法證明對(duì)方確實(shí)是其本人時(shí),該如何防止和避免AI換臉詐騙?綜合近期出現(xiàn)的案例和有關(guān)專業(yè)人士的介紹,筆者幫大家總結(jié)了幾個(gè)防范AI換臉技術(shù)的識(shí)別方式:一是要求對(duì)方用一根手指在面前來(lái)回晃動(dòng)。因?yàn)槟壳胺缸锓肿永肁I算法換臉時(shí)多使用正面照,而不少算法程序還不能處理好突然在面前出現(xiàn)的物體,當(dāng)有手指等在面前晃動(dòng)時(shí),AI假臉可能會(huì)出現(xiàn)不自然的跳動(dòng)或變形。二是打視頻時(shí)看對(duì)方的眼睛。目前,部分AI假臉是利用睜眼照片,通過(guò)人體圖像合成技術(shù)生成的,有些假臉眨眼的頻次明顯少于正常人,而有些甚至不會(huì)眨眼。三是向其詢問(wèn)只有你們雙方知道的事情。涉及借錢(qián)等要緊事,可拿出平常的生活細(xì)節(jié)、小秘密等只有兩個(gè)人或少數(shù)人知道的事來(lái)確定對(duì)方的身份。用“友誼和愛(ài)”打敗“魔法”,這是現(xiàn)實(shí)生活給技術(shù)負(fù)面影響最沉重的一擊。

除了我們個(gè)人的努力外,國(guó)家有關(guān)部門(mén)和AI技術(shù)服務(wù)平臺(tái)也應(yīng)不斷提升監(jiān)管技術(shù)水平。盡管去年12月《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》已出臺(tái),近期也有平臺(tái)和企業(yè)發(fā)布了“關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議”,但接下來(lái)AI技術(shù)服務(wù)平臺(tái)及時(shí)監(jiān)測(cè)并制止利用AI發(fā)布侵權(quán)內(nèi)容、創(chuàng)作詐騙內(nèi)容等情況,仍任重道遠(yuǎn)。各級(jí)網(wǎng)信部門(mén)和公安部門(mén)要依據(jù)各自職責(zé),提升監(jiān)督管理工作和技術(shù)水平。各級(jí)執(zhí)法司法部門(mén)在破獲案件后,應(yīng)及時(shí)總結(jié)新型犯罪途徑和防范方式,以發(fā)布典型案例等形式,方便社會(huì)大眾廣泛了解社會(huì)動(dòng)態(tài),掌握相應(yīng)的知識(shí),提高防范意識(shí)和自我保護(hù)水平。

被AI換臉詐騙侵蝕的信任,還得靠多方努力來(lái)找回,畢竟,單靠個(gè)人提高鑒別詐騙的能力,是永遠(yuǎn)趕不上技術(shù)發(fā)展速度的。

關(guān)鍵詞：

責(zé)任編輯：Rex_25