5月20日，“平安包頭”發布微信公眾號文章，稱5月8日，包頭市公安局電信網絡犯罪偵查局發布一起使用智能AI技術進行電信詐騙的案件，警銀聯動成功緊急止付涉嫌電信詐騙資金330多萬元。

事情起始于4月20日11時40分左右，福州市某科技公司法人代表郭先生的好友突然通過微信視頻聯系到他，兩人經過短暫聊天后，好友告訴郭先生，自己的朋友在外地投標，需要430萬元保證金，且需要公對公賬戶過賬，所以想要借用郭先生公司的賬戶走一下賬。

(資料圖)

好友向郭先生要了銀行卡號，聲稱已經把錢打到郭先生的賬戶上，還將銀行轉賬底單的截圖通過微信發給了郭先生。基于視頻聊天信任的前提下，郭先生沒有核實錢是否到賬，于11時49分先后分兩筆把430萬元給對方打了過去。錢款轉賬后，郭先生給好友微信發了一條消息，稱事情已經辦妥。但讓他沒想到的是，好友回過來的消息竟然是一個問號。

郭先生撥打好友電話，對方說沒有這回事，他這才意識到竟然遇上了“高端”騙局，對方通過智能AI換臉技術，佯裝成好友對他實施了詐騙。

如果是微信好友賬號直接進行AI換臉換聲音，的確容易讓人提前產生“好友信任度”。

第一財經記者據此聯系微信方面與包頭市公安局，截至發稿，微信方面暫未提供技術方面的具體回應，包頭市公安局宣傳科方面表示會與辦案民警進行信息再確認，截至發稿，暫未進行信息更新。不過據第一財經記者多方了解，此次聯系郭先生、發起視頻聊天的微信號碼，系郭先生此次新添加好友的微信賬號。

那么，微信視頻通話能夠輕易被“換臉”嗎？

多位網絡安全專家對微信視頻中實時換臉換聲的可行性展開了專業探討。一位網絡安全方面人士對記者表示，如果要進行不易被識別的、專業級別的AI換臉換聲，需要在實驗室環境條件進行，后者為其提供較強的計算機性能支撐，如果單憑手機性能，僅能提供P圖級別的換臉，極易被識別。

對于該事件，奇安信安全專家裴智勇對第一財經記者表示，首先，所謂微信賬號“新號”“舊號”本身更多是一種主觀感覺，騙子冒充朋友小號，聊上個把月再實施詐騙，受害者也會主觀上認為這是一個老號。其次，該詐騙案仍有許多細節尚未披露，僅僅通過一次短暫而逼真的AI視頻聊天，就能騙走幾百萬，不太現實，中間一定還有很多復雜的過程。不應將原本復雜的詐騙過程簡單化、標簽化。

另外，裴智勇還對記者表示，以現有的技術發展來看，雖然完成相關詐騙過程不是完全沒有可能，但成本太高，所以在現實中被使用的概率也很低。

具體實施技術難度方面，裴智勇舉例稱，如在視頻聊天過程中，要讓受害者看到AI合成的視頻而不是攝像頭直接捕獲的視頻，就必須利用安全漏洞劫持攝像頭傳輸假視頻，技術難度極高。若真是這么高級的漏洞，一般不會被用在普通人身上，因為一旦詐騙失敗，漏洞暴露，漏洞也就作廢了。騙子一般不會冒這個險。

再比如，盡管在視頻中進行人臉替換，已經是非常成熟的技術。但想要在實時對話交流過程中，進行實時的人臉替換、表情捕捉、語音變聲，還能以假亂真，這個技術水平已經超過絕大多數的高科技公司了。現實情況更有可能是騙子首先利用花言巧語騙受害者忽略細節，之后再發送合成視頻實施詐騙。

綜合來說，裴智勇認為，攻擊者要同時具備盜取好友的微信賬號、利用漏洞劫持攝像頭篡改視頻數據、實時變臉與實時變聲且天衣服縫的技術能力，至少是難度極大、成本極高。很多高科技公司在實驗室里也未必能完美完成這些挑戰。所以，相關事件的文字描述，在細節上很可能和真實情況有一定的差異。

此外，裴智勇認為對于騙子來說，還有一項巨大的挑戰，就是騙子必須對受害者和其朋友的外貌、聲音、行為習慣，思維方式，相互關系、業務往來等都做到非常熟悉，否則就極易穿幫。所以，騙子一定是經過了長期的潛伏和精心的策劃，也不能排除熟人作案的可能。

有關真相還需警方的進一步披露，但該事件仍為民眾敲響警鐘。奇安信安全專家田平對第一財經記者表示，AI詐騙是傳統的詐騙手法利用了新技術的一種混合詐騙方式，從詐騙劇本來說還是傳統的冒充熟人、冒充領導等手段，但是其中的面部仿真、聲紋仿真使得被害人放松警惕，更容易被騙。

從預防角度來說，田平提醒民眾需要確保如下三點：第一，不要點擊任何不熟悉人員發來的任何未知網址，下載不明來路的APP，規避掉中木馬的風險來保證個人信息機密以及手機等設備的安全受控；第二，個人信息會通過多重渠道造成泄露，所以在涉及資金轉賬等高風險行為時，需要主動多方式去確認對方身份，例如通過電話回撥，溝通中詢問近期見面時間地點等內容；第三，社會各界也應當積極遵從2022年底實施的《反詐法》各條例，對聊天工具、轉賬雙方的身份加以強管理和確認，對于高風險行為采取審慎允許的態度防止詐騙行為的發生。

標簽：