隨著AI技術(shù)不斷發(fā)展，一些新型違法犯罪行為開(kāi)始冒頭，給網(wǎng)絡(luò)空間安全和群眾人身財(cái)產(chǎn)安全帶來(lái)威脅，記者采訪多地公安機(jī)關(guān)，揭示犯罪手法，提升防范意識(shí)。
學(xué)AI，竟為“換臉”行騙
“你們公眾號(hào)怎么開(kāi)始推薦投資理財(cái)App了？靠譜嗎？”今年6月10日，某機(jī)構(gòu)工作人員像往常一樣打開(kāi)公司公眾號(hào)評(píng)論區(qū)，卻被一連串粉絲留言驚出了一身冷汗。
工作人員發(fā)現(xiàn)，其運(yùn)營(yíng)的公眾號(hào)不知何時(shí)竟發(fā)文稱即將停更，并號(hào)召粉絲關(guān)注另一個(gè)投資理財(cái)類賬號(hào)。工作人員嘗試登錄賬號(hào)后臺(tái)，發(fā)現(xiàn)不僅密碼被修改，連公司法人代表信息都被篡改了。
意識(shí)到事態(tài)嚴(yán)重，工作人員第一時(shí)間報(bào)案。這也是湖北省首起利用AI換臉技術(shù)非法侵入計(jì)算機(jī)信息系統(tǒng)案。
接警后，武漢網(wǎng)警迅速成立專案組，研判發(fā)現(xiàn)被盜公眾號(hào)的操作痕跡為：犯罪分子通過(guò)“AI換臉”技術(shù)，更換了公司法人信息，又用新的“臉”識(shí)別登錄該賬號(hào)，進(jìn)而發(fā)布涉詐引流信息。
順著線索追蹤，專案組很快鎖定了遠(yuǎn)在山東濰坊的犯罪嫌疑人阿成（化名）。
站在民警眼前的阿成，衣著樸素，從事大棚種植，一度令警察懷疑追錯(cuò)了人。但對(duì)其住所搜查時(shí)，辦案民警通過(guò)技術(shù)手段從其電腦已刪除的電子數(shù)據(jù)中，找到了大量AI換臉?biāo)夭募胺欠ㄋ玫奶摂M貨幣。
圖為被抓獲的阿成（中）。（武漢市公安局供圖）
原來(lái)，阿成本是美術(shù)技工，嫌尋常作圖收入不高，就改行務(wù)農(nóng)，又動(dòng)了做AI圖掙“輕松錢”的歪腦筋。
2022年5月，他在外網(wǎng)接觸“人臉代過(guò)”灰色產(chǎn)業(yè)，加入相關(guān)群組后，先在各類小型電商平臺(tái)接單制作人臉圖像，每張收費(fèi)200元；隨著技術(shù)提升，他掌握了生成動(dòng)態(tài)人臉視頻的方法，“報(bào)價(jià)”也水漲船高，破解一張AI動(dòng)態(tài)的人臉最高能賣到1000元。案發(fā)時(shí)，已非法獲利40余萬(wàn)元。
“跑馬機(jī)”作弊成黑產(chǎn)
還有不法分子瞄上培訓(xùn)學(xué)時(shí)，用AI幫人“打卡”。
今年3月，重慶警方偵查發(fā)現(xiàn)，一些駕校學(xué)員無(wú)需實(shí)際練車即可刷滿學(xué)時(shí)，背后是不法分子使用“跑馬機(jī)”并結(jié)合AI技術(shù)實(shí)施作弊。這一犯罪鏈條涉及生產(chǎn)、銷售、使用等多個(gè)環(huán)節(jié)，已形成黑色產(chǎn)業(yè)。
什么是“跑馬機(jī)”？重慶市南岸區(qū)公安分局網(wǎng)安支隊(duì)民警介紹，這是利用汽車脈沖信號(hào)原理制作的設(shè)備，其核心功能是通過(guò)侵入并篡改駕培計(jì)時(shí)系統(tǒng)，并運(yùn)用AI技術(shù)模擬學(xué)員動(dòng)態(tài)人像，達(dá)成偽造培訓(xùn)記錄目的。
通過(guò)涉案資金追溯顯示，利益鏈條的源頭是駕校為了降低運(yùn)營(yíng)成本，以提供“快速拿證”為噱頭，吸引學(xué)員大量報(bào)名繳費(fèi)獲利。與此同時(shí)，上游負(fù)責(zé)銷售“跑馬機(jī)”的黑代理商也獲利不菲。此外，部分駕校還外接訂單“代打卡”獲利，其規(guī)?；\(yùn)作模式顯示，涉“跑馬機(jī)”犯罪已演變?yōu)闄C(jī)構(gòu)化犯罪。
截至目前，重慶警方已打掉涉案違法犯罪團(tuán)伙2個(gè)，抓獲犯罪嫌疑人70名，查扣“跑馬機(jī)”設(shè)備384臺(tái)，查處涉案駕校34家。
AI寫代碼，竟成了黑產(chǎn)源頭
今年2月，重慶萬(wàn)州區(qū)網(wǎng)安部門發(fā)現(xiàn)，轄區(qū)犯罪嫌疑人王某針對(duì)某社交軟件開(kāi)發(fā)群控程序。經(jīng)調(diào)查，一個(gè)使用黑產(chǎn)軟件從事各類違法犯罪的團(tuán)伙浮出水面。
據(jù)萬(wàn)州區(qū)公安局網(wǎng)安支隊(duì)民警介紹，大專學(xué)歷的王某自學(xué)掌握相關(guān)技術(shù)后，開(kāi)始招募多名同伙用AI技術(shù)編寫程序代碼，制作各類黑產(chǎn)應(yīng)用程序。這類黑產(chǎn)軟件無(wú)需使用官方客戶端，即可直接與后臺(tái)服務(wù)器進(jìn)行數(shù)據(jù)交互，具有“多開(kāi)”“群控”“批量管理”等功能，可實(shí)現(xiàn)批量發(fā)送消息、紅包等操作。
圖為重慶市網(wǎng)安干警正在研判案情。（重慶市公安局供圖）
令人驚訝的是，王某還根據(jù)下游團(tuán)伙的犯罪需求，“定制”出各種黑產(chǎn)軟件，成為賭博、網(wǎng)絡(luò)水軍、電詐等多個(gè)犯罪鏈條的技術(shù)源頭。
比如，一到案的犯罪嫌疑人曾是電商從業(yè)者，因覺(jué)得來(lái)錢慢，便與王某技術(shù)對(duì)接，“轉(zhuǎn)行”專門從事刷單水軍活動(dòng)，其在城中村租下一套房子設(shè)立“工作室”，招募多人加入。抓捕時(shí)，警方在房間里當(dāng)場(chǎng)查獲多臺(tái)用于作案的電腦和手機(jī)。
目前，專案組已順藤摸瓜，先后打掉位于重慶、福建、江蘇等地從事黑產(chǎn)軟件開(kāi)發(fā)及網(wǎng)絡(luò)水軍犯罪團(tuán)伙4個(gè)，抓獲犯罪嫌疑人15名，查獲各類黑產(chǎn)程序軟件25個(gè)，查扣資金500余萬(wàn)元，作案電腦、手機(jī)100余臺(tái)。
AI時(shí)代已來(lái)臨，新技術(shù)能做的事越來(lái)越多，也越來(lái)越有想象力。但筑牢安全底線的第一守則就是：AI可以很“忙”，但使用它的人不能法盲。掌握AI技術(shù)的專業(yè)人員，切勿因貪欲走上違法犯罪道路。同時(shí)各方應(yīng)加強(qiáng)技術(shù)監(jiān)管，進(jìn)一步完善生物特征檢測(cè)等AI時(shí)代的防偽技術(shù)，強(qiáng)化落實(shí)對(duì)個(gè)人隱私和信息的技術(shù)保護(hù)和法律責(zé)任。