5月20日，“平安包頭”發(fā)布微信公眾號文章，稱5月8日，包頭市公安局電信網(wǎng)絡犯罪偵查局發(fā)布一起使用智能AI技術進行電信詐騙的案件，警銀聯(lián)動成功緊急止付涉嫌電信詐騙資金330多萬元。

事情起始于4月20日11時40分左右，福州市某科技公司法人代表郭先生的好友突然通過微信視頻聯(lián)系到他，兩人經(jīng)過短暫聊天后，好友告訴郭先生，自己的朋友在外地投標，需要430萬元保證金，且需要公對公賬戶過賬，所以想要借用郭先生公司的賬戶走一下賬。

(資料圖)

好友向郭先生要了銀行卡號，聲稱已經(jīng)把錢打到郭先生的賬戶上，還將銀行轉(zhuǎn)賬底單的截圖通過微信發(fā)給了郭先生。基于視頻聊天信任的前提下，郭先生沒有核實錢是否到賬，于11時49分先后分兩筆把430萬元給對方打了過去。錢款轉(zhuǎn)賬后，郭先生給好友微信發(fā)了一條消息，稱事情已經(jīng)辦妥。但讓他沒想到的是，好友回過來的消息竟然是一個問號。

郭先生撥打好友電話，對方說沒有這回事，他這才意識到竟然遇上了“高端”騙局，對方通過智能AI換臉技術，佯裝成好友對他實施了詐騙。

如果是微信好友賬號直接進行AI換臉換聲音，的確容易讓人提前產(chǎn)生“好友信任度”。

第一財經(jīng)記者據(jù)此聯(lián)系微信方面與包頭市公安局，截至發(fā)稿，微信方面暫未提供技術方面的具體回應，包頭市公安局宣傳科方面表示會與辦案民警進行信息再確認，截至發(fā)稿，暫未進行信息更新。不過據(jù)第一財經(jīng)記者多方了解，此次聯(lián)系郭先生、發(fā)起視頻聊天的微信號碼，系郭先生此次新添加好友的微信賬號。

那么，微信視頻通話能夠輕易被“換臉”嗎？

多位網(wǎng)絡安全專家對微信視頻中實時換臉換聲的可行性展開了專業(yè)探討。一位網(wǎng)絡安全方面人士對記者表示，如果要進行不易被識別的、專業(yè)級別的AI換臉換聲，需要在實驗室環(huán)境條件進行，后者為其提供較強的計算機性能支撐，如果單憑手機性能，僅能提供P圖級別的換臉，極易被識別。

對于該事件，奇安信安全專家裴智勇對第一財經(jīng)記者表示，首先，所謂微信賬號“新號”“舊號”本身更多是一種主觀感覺，騙子冒充朋友小號，聊上個把月再實施詐騙，受害者也會主觀上認為這是一個老號。其次，該詐騙案仍有許多細節(jié)尚未披露，僅僅通過一次短暫而逼真的AI視頻聊天，就能騙走幾百萬，不太現(xiàn)實，中間一定還有很多復雜的過程。不應將原本復雜的詐騙過程簡單化、標簽化。

另外，裴智勇還對記者表示，以現(xiàn)有的技術發(fā)展來看，雖然完成相關詐騙過程不是完全沒有可能，但成本太高，所以在現(xiàn)實中被使用的概率也很低。

具體實施技術難度方面，裴智勇舉例稱，如在視頻聊天過程中，要讓受害者看到AI合成的視頻而不是攝像頭直接捕獲的視頻，就必須利用安全漏洞劫持攝像頭傳輸假視頻，技術難度極高。若真是這么高級的漏洞，一般不會被用在普通人身上，因為一旦詐騙失敗，漏洞暴露，漏洞也就作廢了。騙子一般不會冒這個險。

再比如，盡管在視頻中進行人臉替換，已經(jīng)是非常成熟的技術。但想要在實時對話交流過程中，進行實時的人臉替換、表情捕捉、語音變聲，還能以假亂真，這個技術水平已經(jīng)超過絕大多數(shù)的高科技公司了?，F(xiàn)實情況更有可能是騙子首先利用花言巧語騙受害者忽略細節(jié)，之后再發(fā)送合成視頻實施詐騙。

綜合來說，裴智勇認為，攻擊者要同時具備盜取好友的微信賬號、利用漏洞劫持攝像頭篡改視頻數(shù)據(jù)、實時變臉與實時變聲且天衣服縫的技術能力，至少是難度極大、成本極高。很多高科技公司在實驗室里也未必能完美完成這些挑戰(zhàn)。所以，相關事件的文字描述，在細節(jié)上很可能和真實情況有一定的差異。

此外，裴智勇認為對于騙子來說，還有一項巨大的挑戰(zhàn)，就是騙子必須對受害者和其朋友的外貌、聲音、行為習慣，思維方式，相互關系、業(yè)務往來等都做到非常熟悉，否則就極易穿幫。所以，騙子一定是經(jīng)過了長期的潛伏和精心的策劃，也不能排除熟人作案的可能。

有關真相還需警方的進一步披露，但該事件仍為民眾敲響警鐘。奇安信安全專家田平對第一財經(jīng)記者表示，AI詐騙是傳統(tǒng)的詐騙手法利用了新技術的一種混合詐騙方式，從詐騙劇本來說還是傳統(tǒng)的冒充熟人、冒充領導等手段，但是其中的面部仿真、聲紋仿真使得被害人放松警惕，更容易被騙。

從預防角度來說，田平提醒民眾需要確保如下三點：第一，不要點擊任何不熟悉人員發(fā)來的任何未知網(wǎng)址，下載不明來路的APP，規(guī)避掉中木馬的風險來保證個人信息機密以及手機等設備的安全受控；第二，個人信息會通過多重渠道造成泄露，所以在涉及資金轉(zhuǎn)賬等高風險行為時，需要主動多方式去確認對方身份，例如通過電話回撥，溝通中詢問近期見面時間地點等內(nèi)容；第三，社會各界也應當積極遵從2022年底實施的《反詐法》各條例，對聊天工具、轉(zhuǎn)賬雙方的身份加以強管理和確認，對于高風險行為采取審慎允許的態(tài)度防止詐騙行為的發(fā)生。

標簽：