□ 平安聚焦
□ 本報記者 杜洋
漫畫/高岳
4月12日,，公安部公布10起打擊整治網(wǎng)絡謠言違法犯罪典型案例,，其中4起典型案例涉及使用人工智能（以下簡稱AI）技術(shù)編造虛假信息；4月23日,，北京互聯(lián)網(wǎng)法院一審開庭宣判AI生成聲音人格權(quán)侵權(quán)案……
近年來,，隨著AI技術(shù)的快速發(fā)展，越來越多的人在工作生活中開始享受到該技術(shù)所帶來的全新體驗,，但伴隨而來的是,，利用或濫用AI技術(shù)從事違法犯罪的活動（以下簡稱AI犯罪）日益增多。
對此,，政法機關(guān)依法履職,，持續(xù)深挖徹查AI犯罪，不斷擴大辦案戰(zhàn)果,，努力提升打擊治理質(zhì)效,，全力維護人民群眾合法權(quán)益。
“政法機關(guān)立足主責主業(yè),，發(fā)揮職能作用,，全力打擊治理AI犯罪，防范不法分子利用或濫用AI技術(shù)侵犯公民權(quán)利,、危害公共安全,，保證AI技術(shù)始終沿著正確的軌道向前發(fā)展?！笔锥紟煼洞髮W政法學院法律系副教授崔俊杰對《法治日報》記者說,。
AI犯罪“花樣”層出不窮
“電腦AI去衣,，白菜價?！?/p>
2023年6月,，原是北京一家互聯(lián)網(wǎng)公司技術(shù)員的白某某，在境外的社交媒體上接觸到了“一鍵去衣”的AI技術(shù),，便動起了歪心思,。
白某某通過境外的網(wǎng)站發(fā)布廣告，在某社交軟件上販賣深度偽造淫穢圖片近7000張,，獲利一萬多元,。目前白某某已被提起公訴。
“一鍵去衣”究竟是怎樣的一種技術(shù),？記者了解到,，這項技術(shù)并不是真的“去衣”，而是在圖片的基礎(chǔ)上,，通過AI自行運算使用相關(guān)的淫穢圖像素材對圖片進行重繪,，和“AI換臉”“AI變聲”一樣，屬于利用AI深度學習,、虛擬現(xiàn)實等生成合成類算法制作文本,、圖像、音頻,、視頻,、虛擬場景等信息的技術(shù)。
“電詐犯罪團伙能夠通過AI技術(shù)‘換臉’‘變聲’,，甚至是‘動態(tài)換臉’,，增加了傳統(tǒng)犯罪活動的危害性，還產(chǎn)生了新型的違法行為,，如使用AI‘繪畫’技術(shù)生成的繪畫作品可能會對他人著作權(quán)造成侵權(quán),。”崔俊杰表示,，當前AI技術(shù)已被不法分子使用于網(wǎng)絡釣魚,、深度偽造、繞過身份檢查,、“越獄”式服務,、人肉搜索和監(jiān)視五個方面，進一步降低了犯罪的門檻,。
5月6日下午,，江西省鷹潭市余江區(qū)人民法院公開宣判全國首例“AI游戲外掛”案,，依法對被告人王某合以提供侵入,、非法控制計算機信息系統(tǒng)程序,、工具罪判處有期徒刑三年，緩刑五年,。宣判后,，王某合表示服從判決，不上訴,。
經(jīng)審理查明：王某合通過制作出售“AI外掛”的方式牟利,，2022年，其先后聯(lián)系萬某至,、張某（另案處理）等人編寫“AI外掛”程序,。至案發(fā)，王某合非法獲利共計629萬余元,。
據(jù)悉,，該程序可對多款游戲的畫面數(shù)據(jù)進行未授權(quán)獲取，對游戲中處理的鼠標數(shù)據(jù)指令進行未授權(quán)修改,，造成玩家在玩游戲時,，不用操作就可以“自動瞄準”“自動開槍”，干擾了游戲的正常運行環(huán)境,，屬于破壞性程序,。
在崔俊杰看來，AI技術(shù)標準化程度低,、可定制性強,、應用場景廣泛，不法分子作案手法越發(fā)多樣,，導致AI犯罪不斷衍生升級,，如不及時進行打擊治理，會給網(wǎng)絡安全,，甚至廣大群眾的生命財產(chǎn)安全帶來嚴峻挑戰(zhàn),。
從嚴打擊形成有效震懾
為應對挑戰(zhàn)，政法機關(guān)采取一系列措施打擊AI犯罪,，維護AI技術(shù)良好的發(fā)展環(huán)境,，避免其在應用過程中引發(fā)失序和失范。
2023年9月,，最高人民法院,、最高人民檢察院、公安部聯(lián)合發(fā)布《關(guān)于依法懲治網(wǎng)絡暴力違法犯罪的指導意見》,，明確對“利用‘深度合成’等生成式人工智能技術(shù)發(fā)布違法信息”的情形予以從重處罰,。
4月23日，全國首例AI生成聲音人格權(quán)侵權(quán)案在北京互聯(lián)網(wǎng)法院一審開庭宣判,，法院認定被告方使用原告聲音,、開發(fā)涉案AI文本轉(zhuǎn)語音產(chǎn)品未獲得合法授權(quán),，構(gòu)成侵權(quán)，賠償原告各項損失25萬元,，并書面賠禮道歉,。
6月25日，江蘇省張家港市人民檢察院向市人民法院就一起敲詐勒索,、詐騙案件提起公訴,。據(jù)悉，犯罪嫌疑人所在的境內(nèi)團伙通過虛擬定位,、AI技術(shù)合成照片等方式,，在交友軟件上將自己包裝成在外國的中國女留學生，隨后以談戀愛等名義,，向在國外的留學生索取錢財,。目前已查實該團伙敲詐勒索、詐騙50余人,，涉案金額達100余萬元,。
自最高檢去年11月發(fā)布《檢察機關(guān)打擊治理電信網(wǎng)絡詐騙及其關(guān)聯(lián)犯罪工作情況（2023年）》后，各地檢察機關(guān)按照相關(guān)要求,，加大對侵犯公民個人信息尤其是非法獲取人臉,、聲紋等敏感信息、利用AI等前沿技術(shù)偽造人臉,、聲紋以及獲取其他信息犯罪的打擊力度,。
此外，全國公安機關(guān)去年依托“凈網(wǎng)”專項行動組織專項會戰(zhàn),，嚴打泄露身份證照片等圖像信息的犯罪源頭,，破獲利用AI技術(shù)“換臉”進行詐騙犯罪案件79起，抓獲犯罪嫌疑人515名,，有效遏制了該類犯罪勢頭,。
政法機關(guān)依法打擊AI犯罪，并通過辦理典型案例的方式形成震懾,，讓想用AI技術(shù)非法獲利的人心生畏懼,。
強化治理實現(xiàn)標本兼治
記者了解到，在依法打擊AI犯罪的過程中,，政法機關(guān)深挖這一違法犯罪的規(guī)律特點,，堅持以打開路、打防并舉,、源頭治理,、綜合施策，會同相關(guān)部門單位深入推進行業(yè)治理,、綜合治理,，壓實主體責任,，強化行業(yè)監(jiān)督，堵住監(jiān)管漏洞,，全力擠壓相關(guān)違法犯罪活動空間，加速完善常態(tài)化治理機制,，切實提高其違法成本,。
據(jù)悉，為防范和打擊“AI換臉”犯罪,，全國公安機關(guān)聯(lián)合國家重點實驗室等單位,，開展人臉識別與活體檢測技術(shù)安全測評，覆蓋即時通信,、網(wǎng)絡直播,、網(wǎng)絡社交、電商平臺,、金融支付等重點App,，及時發(fā)現(xiàn)人臉識別驗證系統(tǒng)存在的風險隱患，通報運營主體升級安全保護措施和人臉識別算法,，不給不法分子可乘之機,。
與此同時，各地通過多種形式的宣傳教育,，幫助群眾更加清晰認識到AI技術(shù)被利用或濫用所帶來的法律風險,，增強了大家對AI犯罪的防范意識。
今年4月,，安徽省合肥市警方通過中央媒體在關(guān)于“AI軟件成造謠工具”節(jié)目中揭秘謠言制作過程,，讓網(wǎng)民更直觀地加深了對AI造謠的認識，起到了較好的宣傳效果,。
2024年以來,，浙江省杭州市臨平區(qū)借助“反詐智能AI宣防外呼系統(tǒng)”，自動識別,、分析和預警潛在的詐騙風險,，并以電話語音形式向市民發(fā)送提醒信息，不僅大幅提升工作效能,，也切實提高了市民對詐騙風險的警覺性,，降低了詐騙案件的發(fā)生率。
“隨著AI技術(shù)的快速迭代,，對其被不法分子利用或濫用進行防治提出了更高要求,。如AI犯罪行為更為隱蔽和復雜，證據(jù)收集難度大,?！贝蘅〗苷f,，因此，如何更好地防治AI犯罪,，對內(nèi)容生成平臺,、行業(yè)監(jiān)管部門乃至政法機關(guān)等各方都提出了挑戰(zhàn)。
崔俊杰建議,，要堅持以科學適度的治理方式和治理手段回應技術(shù)發(fā)展和社會變遷,，針對AI犯罪特點，相關(guān)部門需及時推動相關(guān)法律的立改廢釋纂,，以良法促善治,，提高依法治理水平；加大全鏈條打擊力度,，強化各部門協(xié)同配合,，加強大數(shù)據(jù)法律監(jiān)督模型應用，善于從中發(fā)現(xiàn)重點監(jiān)督線索和社會治理存在的難點問題,，實現(xiàn)精準監(jiān)督,、有效監(jiān)督，在確保行業(yè)良性健康發(fā)展的基礎(chǔ)上實現(xiàn)精準治理,。
