2023成都積分入學什么時候開始申請
2023-01-31
當AI被用于詐騙，反詐只能靠AI
更新時間：2022-09-14 21:10:52作者：智慧百科
【文/觀察者網(wǎng) 李煥宇】
“你好，這里是XXX公安局，你名下的賬戶涉及一起洗錢案，請配合我們調(diào)查.......”
“你好，你的銀行卡在XXX刷卡消費7888元等，如有疑問，可致電XXXX......”
“你好，這里是XXX客服，你有一份快遞丟失，需要配合完成理賠......”
近年來，隨著人們的生活加速向線上轉(zhuǎn)移，電信詐騙日漸猖獗。公安部數(shù)據(jù)顯示，去年前三季度，全國共破獲電信網(wǎng)絡詐騙案件26.2萬起，抓獲犯罪嫌疑人37.3萬名，同比上升41.1%和116.4%。
不僅如此，隨著人工智能（AI）、區(qū)塊鏈、虛擬貨幣等新技術的應用，電信詐騙正讓人“防不勝防”。比如騙子完全可以用人工智能對人臉、聲音等個人隱私敏感信息進行深度偽造，輕松騙取受害人信任。
正因如此，政府、機構(gòu)、以及各類公司都在積極探索在反詐領域也用上這些新技術，AI反詐更是備受關注。包括螞蟻集團、中國電信等公司都已將AI投入反詐實戰(zhàn)。但這也帶出了另一個問題，如何確保這些反詐AI值得信任？
電信詐騙，全球難題
目前，電信詐騙已成為全球性的打擊治理難題。
粵港澳大灣區(qū)數(shù)字經(jīng)濟研究院指出，世界主要發(fā)達國家的電信網(wǎng)絡詐騙案呈迅猛增態(tài)勢。一方面，在新冠疫情背景下，人們生產(chǎn)生活加速向網(wǎng)上轉(zhuǎn)移，加劇了案件高發(fā)；另一方面，如今電詐黑色產(chǎn)業(yè)鏈組織架構(gòu)成熟，并且深度隱匿、全網(wǎng)流竄。他們借助區(qū)塊鏈、虛擬貨幣、AI智能、GOIP、遠程操控、共享屏幕等新技術新業(yè)態(tài)，不斷更新升級犯罪工具， 跨國有組織特征日趨明顯。
我國同樣如此。中國信息通信研究院在《新形勢下電信網(wǎng)絡詐騙治理研究報告》中稱，電信網(wǎng)絡詐騙日益呈現(xiàn)技術對抗性強、詐騙手法翻新快、詐騙目標年輕化等新特點新趨勢。電信網(wǎng)絡詐騙正從電話詐騙轉(zhuǎn)向互聯(lián)網(wǎng)詐騙，由“隨機詐騙”走向“精準詐騙”，變得更具針對性和指向性，欺騙性、迷惑性進一步增強。
層出不窮的詐騙手段
技術“進步”帶來的麻煩尤其突出?！斗ㄖ稳請蟆?月7日報道稱，例如在編寫、發(fā)布詐騙引流信息時，詐騙團伙已開始使用自動化腳本執(zhí)行工具，這大大提高了詐騙信息發(fā)布的效率；在與被害人批量溝通時，詐騙團伙會利用AI機器人進行智能聊天，使用云手機、虛擬機和群控設備等方式降低人工成本。于是，電詐成本越來越低，作案手法越來越隱蔽，執(zhí)法成本也越來越高。
不斷“進化”著的電信詐騙已經(jīng)引起了國家層面的重視。2021年，新華網(wǎng)曾在報道中明確指出——“電信網(wǎng)絡詐騙現(xiàn)已成為發(fā)展最快、嚴重影響人民群眾安全感的刑事犯罪之一，嚴重影響社會的長治久安，人民生活的安定幸福?！?/p>
同年，《反電信網(wǎng)絡詐騙法（草案）》進行意見征集。到了今年的9月2日，十三屆全國人大常委會第三十六次會議表決通過《反電信網(wǎng)絡詐騙法》，該法明確規(guī)定，電信業(yè)務經(jīng)營者、銀行業(yè)金融機構(gòu)和非銀行支付機構(gòu)、互聯(lián)網(wǎng)服務提供者承擔安全主體責任，建立反電信網(wǎng)絡詐騙內(nèi)部風險防控機制和安全責任制度。
對于不斷利用新科技武裝自己的電信詐騙，該法同樣要求各方拿出技術上的“武器”。法律規(guī)定，國務院公安部門、金融管理部門、電信主管部門和國家網(wǎng)信部門等應當統(tǒng)籌負責本行業(yè)領域反制技術措施建設，推進涉電信網(wǎng)絡詐騙樣本信息數(shù)據(jù)共享，可以說是在法律層面肯定了技術防詐的路線。
AI反詐，用魔法打敗魔法
在《反電信網(wǎng)絡詐騙法》頒布之前，公安部、工信部、中國人民銀行等部門就已經(jīng)推出了包括國家反詐中心App、96110預警勸阻專線、12381涉詐預警勸阻短信系統(tǒng)、云閃付App“一鍵查卡”等在內(nèi)的各種“防詐利器”。
數(shù)據(jù)顯示，2021年，公安機關利用反詐技術共緊急止付群眾被騙款達3291億元；工信部12381涉詐預警勸阻短信系統(tǒng)首次實現(xiàn)對潛在被騙用戶的短信實時預警，勸阻準確率達60%以上。
企業(yè)同樣在積極跟進。面對不斷“進化”的電信詐騙，他們以人工智能為發(fā)力點，嘗試“用魔法打敗魔法”，即用反詐的人工智能來對抗詐騙的人工智能。
像中科院聲學所團隊創(chuàng)立的聲智科技開發(fā)了AI反詐外呼數(shù)字人，每天能撥出去六七萬通勸阻電話；搜索巨頭百度推出基于AI技術的深偽檢測平臺，對于各種人臉識別、語音識別有99%以上的準確率。
移動支付巨頭支付寶最近也有大動作。在本月的世界人工智能大會上，螞蟻集團的“智能風險感知與響應聯(lián)合反詐系統(tǒng)”拿下大會最高獎項。螞蟻方面的人員向觀察者網(wǎng)表示，他們這套系統(tǒng)每天會用電話、彈窗提示、防詐騙答題等方法聯(lián)系到40萬被認為是電詐受害者的用戶，牽扯的金額達2千萬，其中有8萬用戶會收到系統(tǒng)撥出的AI電話，這種AI電話有著20%-30%的完播率，收到電話后，七八成的人會放棄當前的轉(zhuǎn)賬、付款行為，如果是老年人，放棄轉(zhuǎn)賬的幾率可以提升到90%。
這套反詐系統(tǒng)目前已應用于支付寶及其合作伙伴。根據(jù)螞蟻集團發(fā)布《2021反詐騙治理年度報告》，過去一年，支付寶平臺內(nèi)詐騙案件量及欺詐資損下降約4成，其中“注銷校園貸”等新興騙局治理效果顯著，資損下降85%；AI系統(tǒng)已能自動識別50余種詐騙手法，通過技術支持，向公安機關移交高危預警線索79萬條，協(xié)助全國一線反詐民警勸阻保護潛在被騙資金9.9億元。
反詐AI可信嗎？
但是，將AI投入反詐“戰(zhàn)場”也帶來了另一個問題——如何確保這個AI可信？
通常來講，評估AI是否可信有四點，即穩(wěn)定性（也叫魯棒性）、可解釋性、隱私保護和公平性。在月初世界人工智能大會的可信AI論壇上，京東探索研究院院長陶大程對此做了簡單的介紹，穩(wěn)定性強調(diào)的是AI系統(tǒng)要能夠?qū)垢黝惌h(huán)境噪聲以及外部的攻擊；可解釋性指的是AI系統(tǒng)的預測決策是否透明，能否被人們總結(jié)出來；隱私保護考慮的是AI系統(tǒng)在運作的同時能否有效保護用戶隱私不會被泄露；公平性則是指AI在不斷區(qū)分、評判各種事物的時候是否會形成對某種標簽甚至是人的歧視。
主辦方供圖
在反欺詐這種場景下，AI想讓自己可信無疑更加復雜。
清華大學網(wǎng)絡研究院特別研究員邱寒在一篇文章中指出，僅僅從支付操作本身，很難區(qū)分出是否被騙，因為支付操作往往是賬戶本人在操作；另外，詐騙和反詐騙是一個斗智斗勇的過程，如果碰上騙子們量身定制的“劇本洗腦”，即使能夠識別與攔截單筆交易支付，受騙方往往會選擇換其他的方式繼續(xù)轉(zhuǎn)賬；不僅如此，虛擬貨幣、遠程操控、云語音呼叫等一系列新技術的加入，往往會使反詐超越AI范疇，成為一場全方位的技術對決。
螞蟻集團風控總監(jiān)王維強給出了評判一個AI模型可信性的三個標準——首先看它的打擾率和準確率，即不能把正常用戶判斷為風險用戶，把他們正常的交易行為給否掉；其次看它的魯棒性，也就是抗打擊能力，因為騙子在詐騙過程中會不斷變換手法，所以一個可信AI的識別率必須要保持一個比較高的精準度；最后就是可解釋性，因為只有AI的決策能夠被大家理解，那些風險用戶們才會愿意同AI系統(tǒng)進行溝通，從而為接下來的“喚醒”做準備。
王維強
在本屆可信AI論壇上，王維強再次強調(diào)了可解釋性的重要性，并表示除了讓人更好地理解模型，讓模型更好地理解人也是條不錯的技術路徑。除此之外，他還提到螞蟻正在嘗試探索讓AI去學習一些邏輯，從而對用戶的交流做出一些判斷。另外，作為一家已經(jīng)將可信AI投入應用的企業(yè)，王維強表示除了魯棒性、可解釋性、隱私保護和公平性，在實際應用落地的過程中可信AI同樣離不開數(shù)據(jù)、平臺和運營。
公開信息顯示，螞蟻集團自2015年起投入可信AI技術的研究，從2016年起搭建“可信AI”技術框架，并在同一年全面啟動了人工智能風控防御戰(zhàn)略。在本屆大會上，螞蟻集團副總裁、首席技術安全官韋韜表示：“只有人工智能技術的發(fā)展和安全達到有機融合，才能以高水平安全助力高質(zhì)量發(fā)展。從螞蟻的實踐來看，推動AI智能+專家智能的融合協(xié)同，是實現(xiàn)人工智能在高安全對抗領域?qū)崿F(xiàn)安全可信的關鍵路徑，”
本文系觀察者網(wǎng)獨家稿件，未經(jīng)授權，不得轉(zhuǎn)載。