人工智能犯罪频发 政法机关如何坚守法治红线

政法机关严厉打击治理 AI 违法犯罪，维护人工智能技术应用法治底线

4 月 12 日，公安部公布 10 起典型案例，其中 4 起涉及利用人工智能（以下简称 AI）技术编造虚假信息；4 月 23 日，北京互联网法院审理 AI 生成声音人格权侵权案并宣判……

近年来，AI 技术快速发展，为人们带来全新体验，但也衍生出利用或滥用 AI 技术从事违法犯罪活动（以下简称 AI 犯罪）的情况。

对此，政法机关依法履责，持续查办 AI 犯罪，不断提升办案质效，全力维护人民群众合法权益。

首都师范大学政法学院法律系副教授崔俊杰表示：“政法机关立足主责主业，发挥职能作用，全力打击治理 AI 犯罪，防止不法分子利用或滥用 AI 技术侵犯公民权利、危害公共安全，保证 AI 技术健康发展。”

AI 犯罪“花样”不断

“电脑 AI 除衣，低价出售。”

2023 年 6 月，原北京一家互联网公司技术员白某某接触到了“一键除衣”的 AI 技术，产生了不法念头。

白某某在境外社交媒体发布广告，在某社交软件上贩卖深度伪造淫秽图片近 7000 张，获利一万多元。目前白某某已被提起公诉。

“一键除衣”技术原理是利用 AI 自行运算相关淫秽图像素材，对图片进行重绘，与“AI 换脸”“AI 变声”类似，属于利用 AI 生成合成信息的技术。

崔俊杰指出，不法分子利用 AI 技术用于网络钓鱼、深度伪造、绕过身份检查、“越狱”式服务、人肉搜索和监视等方面，降低了犯罪门槛。

5 月 6 日，江西省鹰潭市余江区人民法院公开宣判全国首例“AI 游戏外挂”案，以提供侵入、非法控制计算机信息系统程序、工具罪判处被告人王某合有期徒刑三年，缓刑五年。王某合服从判决，不上诉。

经审理查明，王某合制作出售“AI 外挂”牟利，2022 年，联系他人编写“AI 外挂”程序，非法获利共计 629 万余元。

据悉，该程序能非法获取多款游戏画面数据，对游戏处理的鼠标数据指令进行未授权修改，导致玩家在玩游戏时，无需操作就能“自动瞄准”“自动开枪”，干扰了游戏的正常运行环境，属于破坏性程序。

崔俊杰认为，AI技术标准化程度低、可定制性强、应用场景广泛，导致不法分子作案手法愈加多样，AI犯罪不断衍生升级。如不及时打击治理，将对网络安全，甚至广大群众的生命财产安全造成严重挑战。

从严打击形成有效震慑

为应对挑战，政法机关采取一系列措施打击AI犯罪，维护AI技术良好的发展环境，避免其在应用过程中引发失序和失范。

2023年9月，最高人民法院、最高人民检察院、公安部联合发布《关于依法惩治网络暴力违法犯罪的指导意见》，明确对“利用‘深度合成’等生成式人工智能技术发布违法信息”的情形予以从重处罚。

4月23日，全国首例AI生成声音人格权侵权案在北京互联网法院一审开庭宣判。法院认定被告方使用原告声音、开发涉案AI文本转语音产品未获得合法授权，构成侵权，赔偿原告各项损失25万元，并书面赔礼道歉。

6月25日，江苏省张家港市人民检察院向市人民法院就一起敲诈勒索、诈骗案件提起公诉。据悉，犯罪嫌疑人所在的境内团伙通过虚拟定位、AI技术合成照片等方式，在交友软件上将自己包装成在外国的中国女留学生，随后以谈恋爱等名义，向在国外的留学生索取钱财。目前已查实该团伙敲诈勒索、诈骗50余人，涉案金额达100余万元。

自最高检去年11月发布《检察机关打击治理电信网络诈骗及其关联犯罪工作情况(2023年)》后，各地检察机关按照相关要求，加大对侵犯公民个人信息尤其是非法获取人脸、声纹等敏感信息、利用AI等前沿技术伪造人脸、声纹以及获取其他信息犯罪的打击力度。

全国公安机关去年依托“净网”专项行动组织专项会战，严打泄露身份证照片等图像信息的犯罪源头，破获利用AI技术“换脸”进行诈骗犯罪案件79起，抓获犯罪嫌疑人515名，有效遏制了该类犯罪势头。

政法机关依法打击AI犯罪，并通过办理典型案例的方式形成震慑，让想用AI技术非法获利的人心生畏惧。

强化治理实现标本兼治

记者了解到，在依法打击AI犯罪的过程中，政法机关深挖这一违法犯罪的规律特点，坚持以打为主导、打防并举、源头治理、综合施策，会同相关部门单位深入推进行业治理、综合治理，压实主体责任，强化行业监督，堵住监管漏洞，全力挤压相关违法犯罪活动空间，加速完善常态化治理机制，切实提高其违法成本。

全国公安机关携手国家重点实验室等机构，展开人脸识别和活体检测技术安全评估，覆盖即时通讯、网络直播、社交平台、电商平台、金融支付等关键应用。此举旨在识别并通报人脸识别验证系统存在的安全隐患，促使运营机构升级安全措施和人脸识别算法，消除不法分子利用漏洞的机会。

与此各地通过宣传教育增强公众对“AI 换脸”犯罪的法律风险意识。安徽省合肥市警方在央媒节目中揭秘谣言制作过程，让民众直观了解 AI 造谣手法，取得良好宣传效果。

2024 年以来，浙江省杭州市临平区运用“反诈智能 AI 宣防外呼系统”，自动识别、分析并预警诈骗风险，并以电话语音提醒市民，有效提升工作效率，提高市民防范诈骗意识，降低了诈骗案件发生率。

技术快速更新对防范 AI 犯罪提出更高要求。“AI犯罪行为隐蔽复杂，证据收集难度大。”崔俊杰表示，如何防治 AI 犯罪，对内容生成平台、行业监管部门、政法机关等提出了挑战。

崔俊杰建议，需科学适度应对技术发展和社会变化，针对 AI 犯罪特点，相关部门应推动法律完善，以良法促进善治；加强全链条打击力度，强化部门协作，利用大数据法律监督模型发现重点监管线索和社会治理难题，实现精准有效监管，在保障行业发展的实现精准治理。（记者 杜洋）