刘仁文：生成式人工智能财产犯罪的特点与应对

近年来，生成式人工智能（Generative AI）研发取得突破，被视为可能是印刷术发明以来最具革命性的知识生产与传播技术。其主要的技术特征是通过深度学习和自然语言处理技术，从大量数据中学习潜在的规律和模式，从而生成类似于人类创作的内容。该项技术的演进及应用场景拓展将给人类生产生活方式带来深刻变革，对教育科研、工业制造、交通、娱乐等各个领域造成颠覆式重构，同时也引发了网络犯罪模式的演变和升级。依托深度学习和神经网络算法，ChatGPT、Midjourney、Stable Diffusion等AI工具在文本、图像和视频生成领域取得突破性进展。然而，这些技术也容易被恶为利用并引发各种犯罪。就财产犯罪而言，深度伪造（Deepfake）、合约操纵、精准诈骗等犯罪形式日益增加，给财产法益保护带来新的挑战，凸显包括刑法在内的各种应对措施的紧迫性。

一、生成式人工智能财产犯罪的特点

人工智能的大规模应用致使财产犯罪从传统的以依靠人工为核心的“人力犯罪”演化为以依靠算力算法为主力的“智能犯罪”，尤其是在技术的支持下，犯罪形式更为多样，财产犯罪的智能化和隐蔽化程度愈发凸显。由于数据生产要素的进一步发展，人工智能算法也更加注重对数据的挖掘与分析。例如，犯罪嫌疑人通过非法渠道获取李某个人医保信息，并使用李某信息异地登录国家医保APP，然后使用AI换脸及PS技术合成李某人脸后，登录“国家医保APP”，获取医保电子凭证（二维码）盗刷李某的医保卡。仅在2024年12月，全国类似的AI欺诈案件就已报告数十起，总计经济损失达数百万元。[1]香港地区也发生犯罪行为人运用深度伪造技术对高管换脸组织虚假视频会议，指令公司财务人员15次将2亿港元转到指定的账户的巨额诈骗案例。而此类利用深度伪造或Sora技术伪装成老板要求财务转账或向朋友借钱的案例在我国也屡见不鲜。[2]大致归纳，生成式人工智能财产犯罪有以下三个特点：

首先，生成式人工智能财产犯罪更加智能化。?传统的财产犯罪，如盗窃、诈骗、敲诈等，主要依赖人与人的直接接触与人工操作。网络环境的匿名性使得财产犯罪越来越具有无接触性和隐蔽性，而生成式人工智能依赖大语言模型和海量参数具有越来越强的推理能力，从而极大提高了犯罪手段的智能性，不再需要大量的人力参与。这一方面使得财产犯罪获得巨大的动能与效率，另一方面也增加了此类犯罪的侦破与防治犯罪难度。例如，ChatGPT基于大规模预训练，能识别语法规则、上下文含义、语言风格，甚至推测隐含的情感或意图，基于前面的文本预测下一个最可能的词，并根据用户输入的提示词（Prompt）生成补全提示词的句子、提供解答。行为人可以将生成式人工智能链接他人的社交软件聊天框，通过预设聊天背景、话术、目的等，自动化地实施诈骗行为，它不再需要人工一一操作，而且随着一键输入，犯罪行为会像核裂变的方式一样急剧扩散。

其次，生成式人工智能财产犯罪更加精准化。生成式人工智能时代的财产犯罪更加注重对海量数据的挖掘与大数据的分析，犯罪行为人借此能够更准确地发现潜在的目标群体并实施精准打击。以社交工程攻击为例，行为人可以通过对社交网络、电子邮件、消费习惯等信息展开大规模的分析，模拟受害者的社交圈，进而制造更具欺骗性的攻击场景。在信息筛查与窃取方面，人工智能还可自动爬取并整合网络中的各种公开数据（如社交媒体、公共记录等），为后续的财产犯罪铺平道路。同时，人工智能算法在处理与分析海量用户数据方面的高效率，也使得诈骗手段呈现出更高的精准度与针对性。例如，犯罪行为人可能根据受害者在抖音、快手、微信公众号等平台上所展现的社交足迹，为其量身定制钓鱼视频或欺诈文案，让受害者更容易放松警惕而上当受骗。此外，深度伪造作为一种能够生成虚假音视频及图像的人工智能技术，除了可被用来制造虚构证据、假冒他人、操纵舆论外，更为行为人借助该技术轻易生成虚假的图像、视频或音频进而伪造身份实施诈骗或敲诈勒索等提供了方便。事实上，犯罪行为人利用虚假音视频或者冒充他人声音、影像，冒充名人或大型企业高管实施投资诈骗，或者冒充执法机关或司法机关工作人员进行敲诈勒索等犯罪活动，已在现实中屡见不鲜。

再次，生成式人工智能财产犯罪更加去中心化。生成式人工智能技术的引入及其广泛应用，改变了传统财产犯罪的生态，也改变了犯罪行为人之间的意思联络方式。在传统的共同犯罪中，犯罪参与者往往需要通过直接或间接的沟通才能形成共同的犯罪合意。然而，随着人工智能技术的介入，这种联系正逐渐走向匿名化与去中心化。以ChatGPT及其他生成式人工智能为例，这些系统具备高度智能的文本生成能力，犯罪行为人可利用它们获取作案指导、法律规避建议，甚至实现犯罪过程的自动化。尽管ChatGPT等模型在训练阶段通常加入了道德与法律限制，但在实际使用中，因“幻觉”（即人工智能生成的错误或意外内容）而无意间提供犯罪计划或技术支持的现象依然可能发生。更甚者，犯罪人还可通过“提示工程”（Prompt Engineering）绕过算法所设定的限制，让模型产出非法信息，包括传统诈骗、金融诈骗乃至黑客攻击的具体操作手法。与此相似，Stable Diffusion等人工智能图像生成工具也能被用于伪造身份证件、伪造公司企业印章等，从而进一步提高犯罪行为的隐蔽性与欺骗性。在这一背景下，原本需要人与人直接沟通的犯罪意思联络，逐渐让位于人与人工智能之间的互动。换言之，传统的人际合谋正演变为通过人工智能这一技术中介所形成的“工具化互动”，这无疑将从根本上改变财产犯罪的生态链条与运作模式。

二、生成式人工智能财产犯罪的司法应对

生成式人工智能技术介入财产犯罪后，财产犯罪领域出现一系列新的演变态势，给传统财产犯罪理论带来冲击与挑战，也使得刑事归责问题变得更加复杂和棘手。当前，迫切需要面对和解决的是司法实践中的一些疑难问题。

一是刑事责任主体问题。生成式人工智能体[3]能否成为刑事责任主体，这是近年来中外刑法学界讨论热烈的一个话题。虽然分歧很大，但至少不是一个伪问题，而是一个真问题。[4]不过，从司法实务的立场来看，现在的立法只有自然人和法人（单位）两种刑事责任主体，因此，在他人利用生成式人工智能进行财产犯罪的情况下，尚无法对生成式人工智能体追究刑事责任。需要考虑的是，根据间接正犯理论，行为人把他人作为工具，利用无责任能力的人或无犯罪意思的人去实施犯罪行为，以达到自己的犯罪目的，需要承担刑事责任。具体到利用生成式人工智能进行财产犯罪的场合，即便具有一定自主意识的生成式人工智能体本身不能成为刑事责任主体，也可以对背后操纵的行为人以间接正犯论处。

二是共犯认定问题。与前述生成式人工智能财产犯罪呈现的自动化、智能化特征相呼应，多人分工合作、共同实施某一具体财产犯罪的传统模式逐渐减少，反而在犯罪预备阶段，基于批量作案的需求而呈现前移趋势。举例言之，甲若向乙提供生成式人工智能应用软件（如ChatGPT），并教导其如何通过链接API来进行诈骗，抑或指导其绕过ChatGPT的法律与伦理审查，甚至传授运用深度伪造技术生成虚假证明文件用于犯罪的技巧，那么甲对乙将锁定何种被害人、采取何种具体方式以及最终造成多大财产损失，并无明确认识。在此背景下，若甲本身掌握了相关人工智能技术并批量实施财产犯罪，对大量被害人造成重大损害，则究竟甲是否应对所有犯罪行为承担共犯责任（如帮助犯或教唆犯），便成为一个难以回避的问题。若乙在运用过程中对人工智能模型进行了升级或调整，将原本作为诈骗罪用途的模型改为敲诈勒索罪的用途，或者显着增强了生成式人工智能与被害人互动时的话术，继而大幅提升了财产损害数额，这又是否属于实行过限？例如，甲将聊天型生成式人工智能端口接入微信客户端，预先设置为“模拟贷款业务客服”，并要求用户支付人民币3000元转至指定账户，然而，人工智能在具体操作时却“超额”完成任务，骗得人民币3万元之多。对此，有观点认为，这种情形可被视为因果关系偏离，从而对传统“主客观相统一”原理提出挑战。[5]本文认为，如果甲实际上收受了全部3万元赃款，则并不存在所谓因果关系的偏离，可归结为概括故意的情形；若甲仅收下其中的3000元，并将余款退回，则无需对多余款项承担责任；若甲只打算向乙教唆以3000元为诈骗目标，而乙却在甲不知情的情况下利用大数据画像进行优化，骗得3万元赃款，则超过部分对甲而言可视为实行过限，甲只对3000元构成共同犯罪（另2.7万元由乙单独负责）。

三是平台责任界分问题。提供人工智能模型或API接口的技术平台大多会强调自身的“中立性”与“工具属性”，即平台并不直接介入用户使用的具体场景，也无法对用户输入数据及生成结果进行完全实时且全量的审查。然而，随着生成式人工智能在盗窃、诈骗、敲诈勒索等财产犯罪中被日益频繁地滥用，ChatGPT等人工智能平台技术提供者应否以及如何对犯罪结果承担刑事责任，势必成为接下来备受关注的话题。一般而言，大型生成式人工智能平台往往只提供中立的技术工具，无法直接控制或支配用户输入的数据与指令，因此若犯罪行为人滥用人工智能技术从事犯罪行为，平台通常不因最终犯罪结果而承担责任。然而，在研发与部署该类技术时，技术提供者应当采取必要合规措施，并履行合理注意义务，以防止因重大技术漏洞或滥用风险而导致严重侵害后果。即便其在主观上并无侵犯他人财产的故意，仍可能因未尽相应义务而面临侵犯公民个人信息罪或拒不履行信息网络安全义务罪等数据犯罪的追诉风险。

四是明知的判断问题。一方面，需要探讨“明知”与帮助网络犯罪活动罪的关系。根据刑法第287条之二及相关司法解释，若平台或技术服务提供方在明知对方利用其技术进行犯罪的情况下，仍为其提供网络通信、支付结算、技术支持等便利条件，就有可能构成帮助网络犯罪活动罪。对于生成式人工智能而言，如果技术提供者明知用户通过ChatGPT、Midjourney、Stable Diffusion等工具从事人工智能换脸或诈骗话术训练，却继续提供技术升级、维护或定制服务，便可能符合上述罪名的规制范围。例如，2022年4月，广东省广州市南沙区人民法院在审理某“AI换脸”案件时，认定被告人李某某不仅开发了用于伪造他人活体视频的AI软件，还向他人传授具体的操作方法，从而帮助下家成功绕过人脸认证机制并对他人财产实施侵害，最终法院综合其与下家的互动内容、技术服务模式以及获利情况，判定其对犯罪行为有充分认知，以非法获取计算机信息系统数据罪予以惩处。[6]如果李某某还“明知”下家利用AI换脸技术直接诈骗，被告人则可能还构成帮助信息网络犯罪活动罪。另一方面，需明确“明知”与共同犯罪的边界。当技术提供者不仅停留在“知情—提供帮助”的层面，还对后续犯罪的实施进行积极参与、联络或分工，则有可能被认定为共同犯罪。换言之，如果平台或技术人员直接参与了策划、沟通或操作环节，而非单纯提供中立工具或基础服务，就不再只是帮助信息网络犯罪活动，而是共同犯意下的分工合作。司法实践中应考量技术提供者是否与犯罪人就目标、手法、获利方式等进行过磋商，甚至共同制定诈骗、敲诈或侵入系统的具体流程。一旦认定为共同故意且有分工协作，则可适用诈骗、敲诈勒索或其他财产犯罪的共同犯罪条款。若技术提供者仅对特定行为范围“明知”，却并不清楚也无法控制犯罪人后续大幅度升级或扩张犯罪规模，那么超出其认识范围的部分，可按刑法理论上的实行过限论处，即对超出其认识范围的事项不负刑事责任。

三、协同推进生成式人工智能财产犯罪的治理

除了司法层面积极应对生成式人工智能财产犯罪，推动新兴技术背景下财产犯罪的共同犯罪理论、归责理论的发展，还要在织密法网、提高防控能力等方面有效建立起惩防机制。

就织密法网而言，一是要完善刑法相关的罪刑规范。例如，有学者建议要增设侵犯数据资产犯罪，将窃取、骗取、抢劫或者以其他方式侵犯他人数据资产，情节严重的行为作为犯罪来处理，[7]这是有道理的，因为数据资产具有财产属性已成共识，而有些侵犯数据资产的行为，无法通过已有罪名得到周全保护。二是要将生成式人工智能平台作为生成式人工智能生态治理的抓手与守门人，完善生成式人工智能服务管理法规，加强相关平台的合规建设，积极防御生成式人工智能时代的财产犯罪。《互联网信息服务深度合成管理规定》规定，深度合成服务提供者对使用其服务生成或编辑的信息内容，应当添加不影响使用的标识；提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显着改变信息内容功能的服务的，应当进行显着标识，避免公众混淆或者误认。《互联网算法推荐管理规定》规定，算法推荐服务提供者应当加强信息安全管理，建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序；发现未作显着标识的算法生成合成信息的，应当作出显着标识后，方可继续传输。要严格执行这些规定，并将它们从部门规章提升到行政法规的位阶，进一步平衡好“AI 责任归属”与“技术发展保护”之间的关系。

就提高防控能力而言，一是要秉持系统理念，实现向内寻求法律治理、向外寻求技术治理的有机结合，[8]在完善法律的同时，加强技术研发，特别是开发预警检测技术工具，包括为公众提供一些免费且易操作的自动检测和拦截工具，“用AI打败AI”。二是要增强公众的自我防护意识。提醒广大公众在网络上不要轻易相信“眼见为实”“耳听为真”，而是要学会辨别真假信息、多渠道印证、“三思而信”，[9]以确保自己的财产安全和其他各项利益不受损失。

注释：

[1]参见王鹤霖等：《医保卡被“盗刷、套现”？警惕AI“换脸大盗”！》，http://www.legaldaily.com.cn/index_article/content/2025-01/07/content_9113498.html。

[2]参见岳品瑜、董晗萱：《AI换脸”诈骗防不胜防？》，《北京商报》2024年3月14日。

[3]本文把基于生成式人工智能系统驱动的实体称为“生成式人工智能体”。

[4]参见刘仁文、曹波：《人工智能体的刑事风险及其归责》，《江西社会科学》2021年第8期。

[5]参见陈伟、向珉希：《生成式人工智能背景下犯罪主观评价的异变与应对》，《上海法学研究》2023年第1卷（总第9卷）。

[6]参见高京等：《使用“AI换脸”技术篡改系统数据牟利，涉案五人获刑！》，《新快报》2024年8月5日。

[7]参见姚万勤：《数据资产的刑法保护模式》，《中国刑事法杂志》2024年第6期。

[8]参见戴蓬、王晓伟主编：《新型犯罪治理评论》，中国人民公安大学出版社2024年版，第194页。

[9]同前引书，第314-315页。

作者：刘仁文，中国社会科学院法学研究所研究员，中国社会科学院大学法学院教授。

来源：《国家检察官学院学报》2025年第2期。