ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

生成式 AI 驱动新型网络钓鱼威胁与企业防御路径研究

生成式 AI 驱动新型网络钓鱼威胁与企业防御路径研究 摘要生成式人工智能技术降低了网络钓鱼攻击的技术门槛攻击者可以批量生成语言流畅、风格高度贴合目标组织内部沟通范式的欺骗内容传统依赖语法错误、表达怪异等表层特征识别钓鱼信息的防御逻辑已经失效。与此同时设备代码钓鱼作为快速增长的攻击手段滥用合法身份认证流程能够绕过多因素认证机制获取长期有效的访问令牌进一步放大企业身份安全风险。当前多数企业沿用的安全意识培训、邮件过滤、身份管控体系尚未适配 AI 赋能之后的攻击演化节奏。本文基于公开威胁情报资料梳理 AI 驱动网络钓鱼的攻击表现形态解析设备代码钓鱼的攻击机理与现实危害剖析现有企业防御体系存在的结构性短板从安全培训迭代、带外验证制度建设、全渠道风险管控、新型攻击科普、跨部门协同治理五个维度构建可落地的企业防御框架。研究发现单纯依靠技术工具无法完全抵御 AI 赋能的社会工程类攻击必须将技术管控、制度流程、人员认知、跨职能协作结合形成闭环防御体系帮助企业应对不断迭代的钓鱼威胁。 关键词生成式人工智能网络钓鱼设备代码钓鱼多因素认证企业网络安全社会工程1 引言网络钓鱼长期是企业网络安全风险的主要来源绝大多数企业数据泄露事件的初始入口均与钓鱼攻击存在关联。在生成式大模型普及之前钓鱼攻击文本往往存在语法瑕疵、语句不通顺、不符合目标组织沟通习惯等特征企业安全培训普遍以此作为员工识别诈骗信息的核心判断依据安全防护也形成 “识别文本异常特征 — 拦截可疑邮件 — 开展员工警示教育” 的固定工作范式。人工智能技术的普及改变了钓鱼攻击的底层生产逻辑。攻击者不再需要具备高水平文案编写能力借助生成式 AI 工具即可短时间内产出大量语法严谨、行文自然、贴合企业内部话术的欺骗信息。攻击者还可以抓取企业公开的宣传资料、内部对外披露的文档训练生成适配目标语境的钓鱼内容实现高度定制化的定向钓鱼。与此同时商业化钓鱼工具包不断成熟将 AI 内容生成、身份窃取工具、攻击基础设施打包技术能力有限的攻击者也可以发起规模化、高仿真的钓鱼活动威胁主体进一步泛化。攻击形态的变化直接带来防御体系的失效。部分企业每年更新钓鱼安全培训但是培训内容依旧停留在识别拼写错误、怪异句式等传统特征层面与真实攻击现状脱节。多因素认证原本被视作抵御账号窃取的重要屏障设备代码钓鱼这类新型攻击手段却可以合法完成多因素认证流程将访问令牌交付攻击者密码重置操作也无法消除已经下发的持久访问权限进一步击穿传统安全防线。反网络钓鱼技术专家芦笛指出现阶段很多企业的安全认知仍停留在旧威胁场景防御措施更新速度滞后于攻击者技术迭代速度这种代差是当前企业遭遇 AI 钓鱼攻击的重要诱因。现有学术研究较多聚焦 AI 钓鱼的技术实现、邮件检测算法优化针对企业组织层面完整防御体系的落地研究相对不足尤其缺少对设备代码钓鱼这类新型绕过 MFA 攻击的组织管理对策分析。本文立足于企业运营实际结合公开威胁事件材料分析 AI 赋能钓鱼攻击的新特征阐释设备代码钓鱼的运行机理与业务、法律风险剖析现有防御体系的短板提出一套完整的企业实践对策为企业构建适配 AI 时代的反钓鱼防御体系提供参考。2 生成式 AI 重塑网络钓鱼攻击的威胁特征传统网络钓鱼攻击受限于攻击者的文案能力、信息搜集效率攻击内容容易留下可供识别的痕迹。生成式 AI 介入攻击全流程之后攻击从内容制作到目标信息搜集、批量执行均实现自动化传统钓鱼识别的显性警告信号大量消失威胁呈现出新的特征。2.1 欺骗文本消除传统识别标记过去员工识别钓鱼邮件最直观的线索就是非母语式表达、大量语法错误、用词生硬混乱。生成式大模型可以输出任意语种的流畅文本语法错误这一经典识别特征不复存在。攻击者还可以输入企业公开的内部通知、对外公告、营销文案作为参考素材引导 AI 复刻企业内部行文语气、专业术语、行文格式最终产出的钓鱼信息和真实内部邮件几乎不存在文本层面的差异普通员工很难通过阅读文字分辨真伪。反网络钓鱼技术专家芦笛强调很多企业的安全培训材料仍在反复强调 “看到错别字就要警惕”在 AI 钓鱼环境下该判断标准已经基本失去实用价值继续灌输这类判断线索反而会造成员工的认知误导产生 “信息写得通顺就代表安全” 的错误心理暗示。攻击者刻意规避文本缺陷防御方依赖文本缺陷做识别二者之间已经形成错位。2.2 实现低成本的高度个性化定向攻击定向钓鱼攻击的效果高度依赖攻击者对目标企业、目标员工的信息掌握程度。在没有 AI 辅助的阶段搜集企业组织架构、汇报关系、岗位职责、内部专有名词需要耗费攻击者大量人力时间难以大规模开展高水准定向钓鱼。借助 AI 工具攻击者可以批量抓取企业官网、公开社交平台、公开披露文档快速梳理企业内部汇报链路、岗位权责、业务术语把这些信息嵌入钓鱼消息当中。攻击者可以针对不同岗位员工生成差异化欺骗内容针对财务人员设计付款、转账类欺骗请求针对人力资源人员设计薪资账户变更、员工信息更新请求针对普通员工设计账号验证、文档访问的诱导话术。每一条钓鱼消息都贴合目标岗位的日常工作场景极大提升欺骗成功率。以往只有高级威胁组织才有能力实施的精准鱼叉钓鱼现在普通攻击者借助 AI 工具包就可以批量完成攻击门槛显著下降攻击规模得到扩张arXiv。2.3 仿冒域名与多渠道攻击协同扩散除文本内容之外攻击者同步使用 AI 辅助生成高度近似企业官方域名的仿冒域名视觉上和真实域名差别极小依靠人眼很难分辨。传统防御主要依靠邮件网关拦截恶意域名但是攻击者持续批量生成新域名域名黑名单的更新速度很难完全覆盖攻击者的生成速度。攻击载体不再局限于电子邮件。攻击者把钓鱼场景拓展到即时通讯软件、短信、语音通话等多个渠道。借助语音克隆技术攻击者可以模仿企业高管、IT 运维人员的声音开展电话诈骗在 Slack、企业微信、WhatsApp 等办公通讯平台发送仿冒消息利用内部即时通讯的信任氛围降低员工戒备心理。多数企业的安全管控重心长期集中在邮件系统对即时通讯、短信、语音渠道的钓鱼风险缺少对应的制度约束和安全培训形成防御盲区。2.4 攻击全链路自动化威胁迭代速度加快AI 的作用不止于生成欺骗文本攻击者已经将 AI 融入完整攻击链路从情报搜集、诱饵生成、消息分发到后续的身份接管、横向渗透实现自动化运行。订阅式钓鱼工具包把 AI 内容生成模块、身份窃取工具、攻击基础设施整合打包攻击者只需要简单配置目标信息就可以发起完整攻击流程不需要深度掌握网络安全底层技术。威胁情报机构观测数据显示AI 驱动的钓鱼攻击迭代周期大幅缩短攻击者可以根据防御方的拦截策略快速调整诱饵内容、攻击渠道。企业按照年度周期更新的安全培训、静态特征库拦截机制更新节奏跟不上攻击者的迭代速度造成大量企业即便每年开展钓鱼安全培训依旧持续遭受 AI 钓鱼攻击侵扰。3 设备代码钓鱼快速增长的新型身份绕过攻击在各类 AI 赋能的钓鱼手段当中设备代码钓鱼是近年增长最为迅猛的攻击类型该攻击并不依靠伪造虚假登录页面而是滥用 OAuth2.0 设备授权授予这一合法认证流程能够绕过多因素认证防护对企业身份体系造成严重冲击。3.1 设备代码钓鱼的技术运行机理设备代码认证流程本身是为输入能力受限的硬件设备设计例如智能电视、打印机等设备设备生成短字符代码用户在普通浏览器访问官方验证网页输入代码完成账号授权允许硬件设备访问用户账号资源整个登录页面、身份服务商均为官方真实服务不存在伪造页面。攻击者将该流程挪用于钓鱼攻击完整攻击链路分为几个环节。第一攻击者主动向身份服务商发起设备授权请求获取一组合法的设备代码与用户验证码第二攻击者利用 AI 生成高仿真欺骗消息将短验证码发送给企业员工谎称该验证码用于账号校验、文档解锁、系统安全更新等业务场景第三员工收到消息之后访问真实官方验证页面输入验证码完成自身账号登录并且完成企业要求的多因素认证校验第四身份服务商收到用户授权之后把访问令牌、刷新令牌下发至攻击者控制的会话而非员工本人终端。整个过程没有窃取用户密码没有伪造登录网页多因素认证的校验步骤已经由受害者完整完成因此多因素认证机制无法拦截本次攻击。攻击者拿到刷新令牌之后可以在较长时间内持续访问受害者邮箱、业务系统即便员工修改账号密码也不会撤销已经下发的刷新令牌入侵访问权限依旧可以保留必须由管理员手动终止会话才能切断攻击者访问通路Trend Micr...。3.2 攻击的现实威胁数据与工具化趋势网络安全企业 Huntress 的威胁监测数据显示2026 年前四个月设备代码钓鱼攻击尝试数量对比 2025 年下半年增长接近 15 倍攻击爆发速度十分突出。攻击数量激增的重要原因是商业化钓鱼即服务工具包的普及工具包内置设备代码钓鱼模块搭配 AI 生成诱饵消息普通攻击者不需要深度理解 OAuth 协议细节即可批量发起攻击活动。研究机构预测全自动化 AI 驱动的邮件账号劫持攻击在 2026 年底就会趋于普遍2027 年会出现更多破坏程度更高的衍生攻击手段。攻击得手之后攻击者利用接管的企业内部账号继续向通讯录联系人发送钓鱼消息借助真实账号的信任度扩大攻击范围同时浏览邮箱内财务单据、薪资信息、业务合同进一步发起业务邮件劫持篡改付款、薪资转账信息给企业带来直接财产损失。3.3 设备代码钓鱼带来的业务与法律连锁风险账号被接管之后的危害不局限于信息泄露。攻击者拿到权限之后会篡改员工的薪资收款账户信息这是该类攻击针对人力资源场景最常见的后果。当薪资被转入犯罪分子控制账户多数司法辖区的法律观点认为企业并未完成对员工的工资给付义务企业需要二次支付员工薪资部分地区劳动法规还会针对薪资延迟发放追加处罚企业同时面临财产损失与劳动诉讼风险。很多企业安全预案只关注系统被入侵后的技术处置对这类衍生法律、劳资风险缺少足够预判安全事件爆发之后陷入被动的法律纠纷当中。反网络钓鱼技术专家芦笛指出很多企业管理者存在认知误区认为部署多因素认证就可以杜绝账号劫持设备代码钓鱼恰恰证明多因素认证是重要防护手段但并非绝对安全屏障一旦用户被社会工程欺骗主动完成授权多因素认证就会被攻击者合法利用企业不能把全部身份安全希望寄托于单一技术。4 当前企业反钓鱼防御体系存在的结构性短板面对 AI 钓鱼与设备代码钓鱼的双重冲击大量企业现有的防御体系暴露出多重结构性缺陷这些缺陷并非单一技术设备不足而是安全认知、培训内容、管理制度、部门协作多层面共同存在问题。4.1 安全意识培训逻辑落后依赖过时识别特征绝大多数企业的钓鱼安全培训构建在识别攻击文本缺陷的逻辑之上教学重点是查找邮件当中的错别字、怪异句式、奇怪发件地址。这套培训逻辑适配传统人工撰写的钓鱼消息面对 AI 生成的流畅欺骗内容这套识别逻辑基本失效。员工按照旧培训学到的经验看到行文通顺、格式正式的消息主观降低警惕反而更容易落入圈套。同时大量企业的安全培训属于合规导向的年度一次性任务培训内容更新周期漫长缺少针对设备代码钓鱼这类新型攻击的场景化教学。员工只学习识别邮件表层特征并没有建立针对异常业务请求的风险判断思维。部分安全模拟钓鱼演练依旧使用带有明显语法错误的样本演练场景和真实 AI 钓鱼攻击差距很大演练无法真正检验员工面对新型威胁的抵抗能力造成企业产生虚假安全感知误以为员工已经具备足够防御能力。4.2 高风险业务流程缺少强制带外验证制度转账付款、薪资账户变更、账号权限重置属于钓鱼攻击最高频瞄准的业务场景。很多企业虽有安全提醒但没有将独立渠道核验写入正式制度员工是否核验完全依靠个人自觉。攻击者的欺骗消息当中会附带虚假联系电话、虚假即时通讯账号如果员工直接使用消息内提供的联系方式确认就会和攻击者完成确认核验环节彻底失效。语音深度伪造技术进一步放大该风险即便员工拨打电话听到熟悉的声音也不能证明沟通对象是本人。很多企业流程制度当中没有明确规定必须使用组织内部通讯录留存的联系方式启用完全独立的通信渠道完成确认也没有明确 “熟悉声音不等于身份确认” 这一关键规则。高风险业务的风险控制完全依赖人员主观判断缺少流程层面的硬性约束。4.3 防御范围局限电子邮件忽视多渠道攻击风险企业安全团队的防护资源大量倾斜于邮件网关部署反垃圾邮件、恶意链接检测系统。但是攻击者已经大量使用企业内部即时通讯工具、短信、语音开展钓鱼。很多企业的安全制度、安全培训没有覆盖即时通讯、短信、语音通话场景默认威胁只会来自邮件。员工在 Slack、企业微信收到仿冒高管、IT 人员的消息时缺少对应的风险处置指引。跨渠道攻击可以绕过邮件安全网关的检测直接触达员工形成防护缺口。4.4 新型攻击技术科普不足一线员工认知空白设备代码钓鱼这类绕过 MFA 的攻击技术主要在网络安全行业内部传播普通业务部门员工、人力资源岗位人员几乎没有接触相关知识。员工普遍形成固有认知只要开启多因素认证就算点击可疑链接也不会发生账号被盗。该认知会让员工在收到设备验证码类欺骗消息时放松警惕认为有 MFA 兜底不会发生危险。企业安全工具固然可以使用 AI 技术对抗 AI 钓鱼但是技术工具存在绕过可能性无法做到百分之百拦截。单纯依靠安全产品不向业务员工科普攻击原理员工无法识别新型攻击的请求模式技术防护一旦出现漏网的攻击消息就会直接造成安全事件。4.5 IT 安全与人力资源、法务部门责任割裂钓鱼攻击当中薪资账户篡改、员工信息泄露等风险同时涉及网络安全、人力资源管理、劳动法律风险。现实当中多数企业的网络安全完全划归 IT 安全部门负责人力资源部门只负责人力业务办理法务部门只在出事之后介入纠纷处理事前缺少常态化协同机制。IT 安全部门熟悉攻击技术但是不了解薪资变更、员工信息调整的完整业务流程无法在业务流程节点嵌入安全校验规则人力资源部门掌握业务流程但缺少网络威胁认知不清楚 AI 钓鱼可以篡改薪资账户带来的法律后果。部门之间信息隔离安全管控无法嵌入业务流程只能停留在事后提醒层面难以形成事前风险拦截。5 AI 时代企业对抗新型网络钓鱼的五步防御体系基于威胁特征与现有防御短板结合参考案例与威胁情报从培训迭代、制度建设、全渠道管控、攻击科普、跨部门协同五个维度构建企业组织层面的闭环防御方案。这套方案兼顾技术工具、管理制度与人的认知不单一依赖某一类防护手段适配 AI 驱动钓鱼攻击的现实威胁。5.1 更新钓鱼安全培训内容从识别文本缺陷转向识别风险场景企业应当彻底调整安全意识培训的底层逻辑放弃以查找语法错误、文本瑕疵作为核心判断标准的教学思路。反网络钓鱼技术专家芦笛指出AI 钓鱼时代培训的核心目标不是教会员工找文字漏洞而是教会员工识别高风险业务场景建立 “无论消息看起来多么正规异常请求必须核验” 的思维模式。培训内容重点需要覆盖几类典型风险场景收到来路不明的设备验证码、紧急催促立刻执行的业务指令、非预期的付款转账申请、薪资银行账户变更、账号权限重置请求。培训需要明确告知员工消息行文流畅、格式规范、看起来来自内部同事都不能作为安全依据。同时企业需要更新模拟钓鱼演练的样本库大量使用 AI 生成的无语法错误的钓鱼诱饵模拟设备代码钓鱼、即时通讯钓鱼等真实攻击场景而不是继续使用老式带有明显错误的钓鱼样本。培训不能只是一年一次的合规课程应当结合最新发生的威胁事件持续更新内容把安全培训从一次性合规任务转化为持续性场景化教育。5.2 将带外验证固化为正式制度规避深度伪造欺骗风险企业应当把独立渠道的带外验证写入正式管理制度针对电汇转账、凭证重置、薪资与直接存款信息变更等高风险业务强制要求员工使用企业官方通讯录中保存的联系方式完成确认绝对不能使用欺骗消息内部附带的电话、聊天账号开展核验工作。制度中必须补充一条容易被忽略的关键规则通话当中听到熟悉的人声不能作为身份确认的充分证据。当前语音克隆技术成本低、仿真度高视频深度伪造技术也在快速成熟攻击者可以伪造熟人声音完成通话欺骗。确认有效性的核心不在于对方说了什么、声音像谁而在于通信渠道是否是企业预先留存的可信渠道。在制度落地层面需要明确业务操作流程凡是高风险变更必须先走独立渠道核验核验通过之后才允许继续业务办理不能将核验作为可选建议。不能仅停留在发布安全通知需要把核验要求嵌入业务审批节点从流程上约束人员行为而不是完全依靠员工自觉。5.3 将安全校验范围拓展至全部沟通渠道消除渠道防御盲区网络钓鱼威胁已经不再局限电子邮件企业安全管控和安全制度需要覆盖全部常用沟通载体包含企业即时通讯平台、外部社交通讯软件、手机短信、语音通话。企业需要明确安全规范高管、IT 运维人员通过即时通讯工具下达付款、账号变更等高危指令同样适用带外验证制度不因为消息来自聊天软件就降低安全标准。安全团队需要针对即时通讯平台做好日志审计、异常消息告警配置关注短验证码、紧急转账这类高频风险关键词。安全培训素材当中应当加入短信钓鱼、语音仿冒、即时通讯钓鱼的实际案例打破员工 “只有邮件才会有钓鱼” 的固有认知。安全模拟演练也需要覆盖邮件之外的多渠道检验员工在不同沟通媒介下面对欺骗请求的处置行为。5.4 面向全员科普新型攻击手段补齐设备代码钓鱼认知短板设备代码钓鱼等可以绕过多因素认证的攻击手段在普通业务员工当中认知度很低企业需要由 IT 安全部门牵头面向全体员工开展专项科普。科普不需要讲解复杂协议底层原理重点讲清楚攻击的表现形式与危害真实官方登录页面同样可以被攻击者利用即便开启多因素认证收到陌生设备验证码也不能随意输入密码重置无法撤销已经下发的访问令牌。反网络钓鱼技术专家芦笛强调技术防护存在漏报的客观可能性AI 对抗 AI 的安全检测工具可以提升拦截概率但不能做到万无一失。技术防线与人的认知防线必须互为补充。人力资源部门可以配合安全部门将新型攻击科普融入员工入职培训、部门例会用业务人员能够理解的语言解释攻击场景重点面向财务、HR、行政这类高风险岗位强化宣教帮助员工识别越来越常见的异常请求模式。5.5 建立 IT 安全与 HR、法务的联合责任机制打通业务安全闭环AI 钓鱼攻击大量瞄准人力资源相关业务单纯依靠 IT 安全部门无法实现完整防御必须构建 IT 安全、人力资源、法务合规共同承担责任的协同治理模式。攻击利用企业内部上下级信任关系、人事业务流程实现欺骗风险根植于组织业务流程内部只有跨部门协作才能够把安全控制嵌入业务节点。针对薪资账户变更这类高频受害场景企业需要落实多重管控措施。第一所有银行账户信息修改强制执行带外验证流程没有完成核验不得生效第二在系统条件允许的前提下设置变更生效延迟银行账户修改之后延迟一个发薪周期正式启用留出风险发现窗口第三每当员工银行收款信息发生改动自动向员工档案留存的联系地址发送书面确认通知让员工第一时间知晓账户变更事件。法务部门需要同步介入梳理薪资被诈骗篡改之后对应的劳动法律风险提前完善预案评估事件发生之后企业需要承担的薪资补发、行政处罚相关风险提前制定处置方案避免事件爆发之后被动应对。安全部门和人力资源部门定期开展复盘针对钓鱼模拟演练、真实安全事件总结业务流程漏洞迭代优化制度。6 结论生成式人工智能重构了网络钓鱼攻击的生产模式传统依靠文本语法缺陷识别诈骗信息的防御逻辑已经失效。设备代码钓鱼这类新型攻击滥用合法身份认证流程能够绕过多因素认证获取长期访问权限进一步抬高企业身份安全风险。攻击者借助 AI 工具实现情报搜集、诱饵生成、攻击执行全链路自动化攻击门槛降低、攻击速度加快企业过去以年度为周期迭代的安全防护体系和当前威胁演化节奏形成明显落差。企业防御 AI 驱动的网络钓鱼不能寄希望单一安全技术工具一劳永逸解决全部威胁。技术手段可以拦截大部分攻击但社会工程学攻击的本质是利用人的认知一定会存在漏过技术检测的攻击消息。企业防御需要完成认知转向由过去寻找消息文本漏洞转向对高风险业务请求执行独立渠道核验。通过更新安全培训、固化带外验证制度、拓展全渠道风险管控、开展新型攻击科普、搭建 ITHR法务跨部门协同机制将安全控制嵌入业务流程构建技术、制度、人员认知结合的闭环防御体系。反网络钓鱼技术专家芦笛指出AI 与网络钓鱼的对抗会持续动态演化企业反钓鱼防御不是一次性建设项目而是需要持续跟踪威胁情报持续迭代培训、流程、技术策略的长期工作。未来攻击者还会不断推出更多结合 AI 的新型社会工程攻击手段企业需要保持对威胁情报的跟踪持续审视自身业务流程的安全薄弱点动态调整防御策略平衡业务运行效率与安全风险持续提升组织整体对抗 AI 钓鱼攻击的韧性。编辑芦笛公共互联网反网络钓鱼工作组来源迪妙网络空间安全学院
RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进