自动化攻击时代的内部威胁与防御体系
前言
2025年12月22日一夜之间，籍快手遭攻击事件，"自动化攻击"一词闯入大众视野。借助"特征匹配""规则拦截"等手段构筑起来的传统防御体系在战争级别的攻击面前，显得狼狈不堪。自动化攻击的外部威胁所呈现出来的组织性和预谋性均已达前所未有之高度，其资源投入与周密程度堪比国家级行动，近期已有不少专业解读，在此不赘述。本文仅就自动化攻击中的另一致命威胁，也是合规建设当中的棘手之处——"内部人员威胁"或"内部攻击"（俗称"内鬼"），阐述一二。
一、传统内部攻击形式
在自动化攻击之前的传统网络攻击当中，内部人员威胁的恶意，源于私愤、炫技，或逐利等主观意志，多以职务侵占、知识产权侵犯或个人信息违法犯罪等形式出现。这些传统的内部攻击分为两种表现形式：
一是单独作案型。典型案例如：2024年7月上海某公司前研发工程师利用所掌握的高级密码和其所熟知的系统逻辑，对公司两台核心服务器进行攻击导致相关服务停摆近200小时。行为人目前已被检察机关以破坏计算机信息系统罪提起公诉。
二是团伙作战型。系企业舞弊的典型之一。涵盖互联网、制造、物流、金融、能源、零售等一众行业，是海量个人信息被反复倒卖、商业秘密泄露、权力寻租行贿受贿等犯罪行为的必要环节。以游戏行业为例：一些内部人员（包括员工、外包人员）将未上线角色的技能影像资料、实机视频等商业秘密或商业敏感信息外发，或擅自通过微信好友传输游戏未公开内容与信息造成泄密，此类案件考验企业反舞弊合规的制度约束、监测机制和法律追责的有效合力。团体舞弊类型在非互联网行业中亦非罕见，因商业机构的信息化处理需求几乎涵盖方方面面：以2023年煤炭发电产业某团伙被控非法控制计算机信息系统案为例，该案多名嫌疑人里应外合，潜入电厂煤炭采样机操作间，拷贝、修改控制软件、加装硬件设备、远程操纵煤炭采样机机械臂，逃避电厂检验，达到以劣质煤泥充当高热值煤炭售卖的目的。侦办和审理难点在于如何穿透技术手段和分工协作的精准性、流程化。而在开设赌场案件类型的黑产案件中，其隐蔽性和复杂性还会随着规模壮大、公司集团化运作而加剧，普通从业者可能被裹挟进违法犯罪活动中而不能自知，此中悲剧不少。
二、自动化攻击时代下内部威胁
如果说上述内部舞弊行为作为公司反腐重点，其规制主要依赖严厉的执法和相对完备的合规流程，仍属可控，那么自动化攻击语境下的内部威胁升级版则对现阶段的安全风控体系提出了更为严峻乃至溃决的挑战。其作战形式呈质的跃升，主要表现有三：
01 传统内部威胁加强版
传统内部威胁在自动化攻击工具的加持下，破坏力剧增。现有的防御体系多建立在已知威胁及其运作规则之上，对于攻击的监控和识别都滞后于自我学习、自我纠偏能力不断攀升的新型自动化手段。行为人既可以利用AI生成高仿真或深度伪造的视觉、语义、视频和音频内容，实施规模化的攻击，也可以购买黑产相关服务来实施上述行为。后者的破坏性显得更为严重，因其便捷性，更因其攻击行为已然产业化，其黑产"供应商"更善于隐藏、调配的专业资源更多。
02 低门槛的自动化攻击（Vibe Hacking攻击为例）
相较于前述内鬼+自动化工具/服务形式的加强版形式，Vibe Hacking这种几乎0门槛的自动化攻击范式更为棘手。Vibe Hacking概念衍生于"Vibe-Coding"（氛围编程），即仅用日常语言描述所需的程序这一意图，即可用于攻击，一般译作"氛围黑客"。得益于大模型技术的深度挖掘能力提升，当前基于公开数据的"数据蒸馏"攻击，已经让现有防御技术疲于应付，而以Vibe hacking为代表的攻击范式则直接为网络犯罪"赋能"，即AI在网络攻击中的角色已经由"工具"属性演变为"自主执行者"。Anthropic公司2025年发布的威胁情报报告，介绍了两则Vibe Hacking典型案例GTG-2002和GTG-5004，第一个案例的实施者技术能力有限，但通过向Claude编程助手描述攻击意图，就获得了近乎全自动的全链条攻击能力，入侵17个包括政府、医疗等关键设施的数据系统；后者则依赖Claude开发勒索软件，在暗网售卖勒索服务。尽管业内对这份报告的真实性（缺乏"受害者"确认与第三方佐证、攻击细节难以复核、Anthropic宣传意图明显等）有质疑之声，但未否定自动化攻击乃大势所趋，质疑主要集中在AI的高度自主性程度。
03 新型AI内部攻击
如果说Vibe Hacking攻击的颠覆性还有待核验，而AI因被劫持或因设计缺陷（有意或无意）而进行"自主"攻击，已频频登台作祟。这种形式披着合法的外衣，在机构内部具备合法授权，劫持正常的业务流程，公然在通用的安全屏障面前，侵蚀、窃取包括敏感数据在内的大量数据。以典型的"暗影逃逸"（Shadow Escape）攻击为例：其恶意利用MCP与企业内部的CRM、数据库、文件存储等可信连接权限，自主规划、自动完成"查询－挖掘－传输"连串操作，全程无需人工点击且无感知。此类型的攻击范式还易与深度伪造Deepfake技术叠加，冒充人类的生物特征和行为模式，其规模化效应甚或危及国家安全。
三、自动化攻击时代的内部防御体系
传统意义上的网络数据安全，可以从网络犯罪的构成和风险管控中着手，但在自动化攻击时代，以往的解决方案无法适应更复杂、更极端的局面。笔者认为通过解构高频的违法犯罪后果将企业合规体系做好适配（如前述游戏业的泄密案、煤炭发电企业的非法控制计算机信息系统案，有效的反舞弊举措可以遏制此类犯罪行为）可以抵御传统内部威胁，但不足以应对自动化内部攻击形态。仅从应急响应速度而言，传统攻防节奏以小时或天计（强调黄金72/24小时响应模式），而自动化攻击时代的节奏则以分钟来计。故自动化攻击时代的内部防御至少应具备如下三点思路转变：
01 传统验证与保密机制的变革
以往的身份验证、授权权限管控按照"信任但验证"（Trust but Verify）的方式进行，预防措施多基于内部可信任人员（通常为员工或有资质的供应商）的管理和审计进行，合规部署多从传统反舞弊、知识产权保护、信息类犯罪形式等立场展开。而在自动化攻击时代，"零信任""持续验证"迫在眉睫，因内部攻击行为的症结仍在"权限"，只是责任主体由以往可溯及的个人延展到系统的开发者、运营者、使用者等各方。
同时，机构的保密机制通常被狭隘地定义为商业秘密、敏感信息保护和相关保密协议文件管理的范畴，并未与数据传输、业务系统维护等领域实现对接。故而对于保密机制的理解和运营普遍缺乏应有的警惕和布局。笔者曾针对政务数据的知情权与工作秘密的界限做过解析，其实保密机制问题并非政务数据所独有，且明晰法律边界只是建立保密机制的第一步，囿于篇幅，不再展开。
另外，持续的身份验证并非单纯的技术升级，保密机制亦非纯粹的法律问题，也不能简单把二者杂糅成某种"组合拳"：因组合仍有边界，分合之间仍保有二者独立性。然而无论是持续验证过程中的最小权限原则适用、AI行为的可观测（包括AI代理的输入输出、内部决策过程、工具调用等）、可解释、可审计的全链条监控系统以及对高风险操作的自动拦截和强制人工审批流程等，都是法律框架下的法定义务，其中既有《网络安全法》中的监测和记录义务，又有国内外监管更为细化的要求。安全保护义务的履行在很多时候也与我国刑事保护制度的价值平衡相关。
02 民刑交叉逻辑下的责任归属
与以往的公司舞弊行为重事后追责不同，自动化内部威胁引发的法律责任不能轻易从最终的行为定性来"一锤定音"。目前法学理论界注意到受益关联和风险控制力在责任分配中属于不容忽略的考量因素，对于不同参与者的风险分析要充分审视的权属问题就包括：系统设计的规则设定标准是否与现行法律规范匹配、系统是否存在固有缺陷和漏洞、AI集成的权限是否存在滥用情形或隐患、安全措施和检测评估是否恰当等。除了针对网络运营者的平台保障义务，程序开发者、数据加工者也会按照过错推定或无过错责任，对其研发、加工的产品或服务本身的"可责性"承担相应责任，其"合理注意义务"理应包含系统生成的内容、运作方式的必要审核及后续升级保障。
司法实践中，对于开发者刑事规制近年多体现在SDK恶意行为（流量劫持、窃取隐私等）、计算机软件知识产权侵权行为等，法律条文对技术处理中的"恶意"，多依《网络安全法》表述为"恶意程序""安全缺陷、漏洞"来判定，一些判例就以"事前告知"等同于"授权"来审视是否构成恶意。对于不少高危行为却不能一概归入前述范畴：为方便售后预留后门、滥用远程操纵进行维护、商业交付前未查验源代码污染等。这就造成了民事侵权领域中不明确或宽松的边界，在进行刑事追责时，标准却可能收紧从严，在民刑交叉之处争议不小。为此，商业机构应当就刑事风险诊断与防控做好针对性地部署，且不应局限于现行的法律条款和监管政策。
03 AI伦理与法律的结合
AI伦理一直是AI发展的热点议题，近期发布的网安标委技术文件《人工智能安全治理框架》2.0版对伦理风险予以了明晰：在技术内生安全风险章节中"特别增加了'模型开源风险'，"以防基础模型开源被用于训练"作恶模型"；技术应用安全风险中"强调低质有害信息经网络扩散会污染内容生态"；应用衍生安全风险中"则明确指向人工智能应用衍生出的社会层面风险，如冲击就业结构、资源供需平衡、科研伦理风险等"。可以说，内部威胁的排除，不仅需要在事后追责中有据可查，也要求在系统构建之初、系统接入之前就应该设置相应的伦理审查。这也必然成为司法实践当中定义何为"合理注意义务"以及过错推定等实质判断的关键要素。
一些企业经营者甚至是法务工作者存有侥幸心态，对"法无禁止即可行"的概念存在误解，认为法律审查只是停留在某些具体的法律条文中，并未贯通整个司法体系和相应的国家与行业标准性文件及其背后的价值取向与约束。从最近检察机关强调的知识产权刑事保护三原则：研发风险与承担责任相匹配原则、技术特征与法律价值相平衡原则、适度介入与必要打击相兼顾原则，可以看出我国司法实务紧追时代的倾向。
法律规定不是孤岛，将AI伦理与法律融入数据治理全生命周期当中，界定全链条所涉的行为底线，是这个时代迫切的要求。