周志宏：破解AI詐騙難題須雙“法”齊下

　　作者：周志宏 稿源：時(shí)評(píng)界 編輯：洪小兵

　　包頭警方近日發(fā)布一起利用AI實(shí)施電信詐騙的典型案例。有騙子通過AI換臉和擬聲技術(shù)佯裝好友，對(duì)福州市某科技公司法人代表郭先生實(shí)施詐騙，在視頻聊天“核實(shí)”對(duì)方身份后，郭先生10分鐘內(nèi)被騙子騙走430萬元。(科技日?qǐng)?bào)6月2日)

　　這幾天，AI換臉詐騙的話題引發(fā)社會(huì)關(guān)注。

　　所謂AI詐騙，就是利用AI技術(shù)，模仿、偽造他人的聲音、面孔、視頻等信息，進(jìn)行欺騙、敲詐、勒索等的犯罪活動(dòng)。通常情況下，騙子會(huì)通過撥打騷擾電話等方式，錄音提取詐騙對(duì)象及其重要關(guān)系人的聲音特征，再利用AI技術(shù)進(jìn)行語音合成，使詐騙對(duì)象放松警惕，進(jìn)而用偽造的聲音實(shí)施詐騙。問題的嚴(yán)重性，同時(shí)也是識(shí)別AI換臉詐騙的難點(diǎn)在于，人臉效果更易取得對(duì)方信任，騙子用AI技術(shù)換臉，可以偽裝成任何人;還有，騙子會(huì)利用AI技術(shù)，將他人的臉換成指定人的臉，冒充詐騙對(duì)象的親人、朋友，通過合成視頻或照片的方式來“以假亂真”，擾亂詐騙對(duì)象的視線，進(jìn)而實(shí)施詐騙。

　　由于AI詐騙具有高度逼真、難以追蹤、針對(duì)性強(qiáng)、手段多樣的特點(diǎn)，受害者往往難以分辨真假，從而放松和降低警惕。再者，犯罪分子隱匿在網(wǎng)絡(luò)的陰暗角落，也給警方偵破帶來困難。

　　面對(duì)AI技術(shù)濫用風(fēng)險(xiǎn)，必須要用法，要雙“法”齊下，以有效整治AI詐騙。這個(gè)“法”既包括科學(xué)技術(shù)方法的應(yīng)用，也包括剛性治理的法律法規(guī)。

　　在科學(xué)技術(shù)方面，目前，打擊電信網(wǎng)絡(luò)詐騙的科技裝備發(fā)展迅速。據(jù)報(bào)道，由廈門市美亞柏科信息股份有限公司研發(fā)的“AI-3300慧眼視頻圖像鑒真工作站”，不僅能鑒定利用傳統(tǒng)偽造手段篡改的影像，而且對(duì)利用深度偽造技術(shù)進(jìn)行了換臉、美顏、生成人臉、同圖或異圖復(fù)制篡改的影像也能夠進(jìn)行鑒定，可以為公安、司法行業(yè)提供技術(shù)支持;在法律法規(guī)方面，去年12月發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，對(duì)人臉生成、替換、操控，合成人聲、仿聲等都進(jìn)行了明確約束。這項(xiàng)規(guī)定發(fā)布實(shí)施后，此前一款主打AI換臉的App在被監(jiān)管部門約談后進(jìn)行下架處理，處理原因?yàn)?ldquo;如此換臉侵犯了公民的肖像權(quán)”。

　　就普通百姓而言，AI詐騙也不是完全“防不勝防”。不過，需要大家有甄別的“慧眼”。雖然AI生成的語音和表情已經(jīng)相當(dāng)逼真，但仍然可能存在一些不自然的細(xì)節(jié)。具體細(xì)節(jié)包括AI生成語音的節(jié)奏、音高變化和AI生成圖像的面部表情過渡等，這些細(xì)節(jié)均與原始視頻有較大的差別。更何況，目前，對(duì)AI進(jìn)行判斷與甄別的技巧有很多。在視頻通話的過程中，用戶可以讓對(duì)方展現(xiàn)全身特征，再觀察人臉是否出現(xiàn)消失或特殊變化，以檢測(cè)是否存在面部置換的可能性，這是一。再者，用戶可以讓對(duì)方用一張白紙?jiān)谀樓熬徛蝿?dòng)，觀察是否出現(xiàn)閃爍現(xiàn)象，以此判斷是否可能存在換臉現(xiàn)象。

　　其實(shí)，無論多厲害的騙局，歸根結(jié)底都是用欺詐的手段獲取對(duì)方信任，以謀取公私財(cái)物。對(duì)于個(gè)人來說，多方驗(yàn)證、確認(rèn)身份，才能避免和防范騙局的發(fā)生。尤其是在涉及金錢、財(cái)產(chǎn)和隱私等重要事項(xiàng)時(shí)，更要小心謹(jǐn)慎，可要求對(duì)方提供更多證據(jù)、進(jìn)行更多交流，并核實(shí)其身份和回答的準(zhǔn)確性，以排除AI技術(shù)欺騙的可能。據(jù)此，公眾在平時(shí)要有警惕高風(fēng)險(xiǎn)行為的意識(shí)。對(duì)于緊急轉(zhuǎn)賬、提供大額保證金或其他不尋常要求，要保持警惕，并仔細(xì)核實(shí)真實(shí)性。在不能確定真實(shí)身份時(shí)，要格外留意，不要被高額回報(bào)或緊迫情況迷惑，不要著急匯款，避免上當(dāng)受騙。

　　相關(guān)部門要強(qiáng)化對(duì)主打AI換臉的App的監(jiān)管，發(fā)現(xiàn)問題，及時(shí)處理，該約談的約談，該下架的下架，別讓AI技術(shù)換臉?biāo)烈怛_人、坑害人;警方須加大查處力度，對(duì)利用AI技術(shù)，模仿、偽造他人的聲音、面孔、視頻等信息，進(jìn)行欺騙、敲詐、勒索等犯罪活動(dòng)依法嚴(yán)厲打擊，震懾犯罪，保障公民的肖像權(quán)不受侵犯。