2025年下半年以来，多家安全厂商将大语言模型深度嵌入漏洞扫描与自动修复流程，效率提升有目共睹。但硬币的另一面同样刺眼——同样的能力正被用于自动化生成攻击载荷、绕过WAF规则、甚至构造零日利用链。当一个模型既能帮你堵上SQL注入，也能帮攻击者写出更隐蔽的注入变体时，企业过去依赖的“边界防御”思路已经不够用了。本文从技术实现层面，拆解AI在攻防两端的具体应用，分析当前治理困境，并给出可落地的架构建议。

一、AI驱动的漏洞修复：从辅助到自主闭环

二、攻击侧的镜像能力：自动化武器化路径

三、双刃剑架构全景：攻防能力的同源性 四、企业安全治理的三层防线

早期的AI辅助修复停留在“代码补全”层面——在IDE中提示开发者可能的修复方案，开发者自行判断是否采纳。到2026年中，这个流程已经演化为完整的自主闭环：

，以CodeQL、Semgrep为代表的工具将扫描结果结构化输出，包含漏洞类型（CWE编号）、触发路径（调用链）、关联上下文（数据流图）。这些结构化数据作为上下文输入大语言模型。

，模型基于漏洞上下文生成候选补丁。当前主流做法不再是简单的单轮生成，而是采用多轮自验证架构：第一轮生成补丁，第二轮由独立的验证Agent检查补丁是否引入新问题（如破坏API契约、引发类型不兼容），第三轮运行回归测试确认功能不受影响。

，修复结果回流至模型的上下文记忆或微调数据集。某个项目中反复出现的模式——比如特定ORM框架下的参数绑定遗漏——会被模型记住，后续遇到同类代码直接给出高置信度修复。

目前在企业落地较多的方案是将上述流程嵌入CI/CD管道。代码合入主分支前，自动触发扫描-修复-验证流水线，开发者只需Review模型给出的Pull
Request。某些团队的数据显示，这种模式可将高危漏洞的平均修复时间从72小时压缩到4小时以内。

问题在于，上述修复能力的每一个环节，都存在攻击侧的镜像用法。

。模型能理解漏洞成因，就能反过来寻找尚未被发现的同类漏洞。给模型提供一个开源组件的源码，要求它“寻找所有未做边界检查的内存操作”，输出结果与安全研究员的人工审计高度重叠。差别在于速度：模型在几分钟内完成人类需要数天的审计工作。

。传统WAF依赖规则库匹配已知攻击模式。但模型可以针对特定WAF规则集，自动生成语义等价但形式不同的载荷。例如，把一个被拦截的XSS
Payload通过编码转换、DOM操作拆分、事件处理器嵌套等方式重构，直到绕过检测。这不是理论推演——2025年Black
Hat上已有研究者演示了此类工具的原型。

。大模型生成的钓鱼邮件在语法、语气、个性化程度上远超传统模板。结合LinkedIn等公开信息源，可以自动生成针对特定岗位、特定业务场景的定向钓鱼内容，且每封邮件都不重复，传统基于模板指纹的检测完全失效。

。单个低危漏洞通常不构成实质威胁。但模型能将多个低危漏洞串联——一个SSRF获取内部元数据，配合一个权限提升缺陷，再利用一个反序列化入口——自动构造出完整的RCE链。这类组合式攻击过去依赖高水平渗透测试人员的经验，现在模型正在拉平这个门槛。

三、双刃剑架构全景：攻防能力的同源性

以下架构图展示了AI能力在攻防两端的同源结构。核心模型能力居中，左侧为防御侧应用路径，右侧为攻击侧的镜像路径：

这张图的核心信息很直白：防御侧用于漏洞扫描的代码理解能力，和攻击侧用于零日挖掘的代码理解能力，底层是同一个东西。能力本身不分善恶，决定方向的是使用意图和调用上下文。这意味着，单纯限制模型能力（如拒绝回答安全类问题）是治标不治本的——开源模型、本地部署、微调绕过等路径始终存在。

既然不能从模型能力本身入手封堵，企业需要在使用层面建立治理体系。以下是当前实践中被验证有效的三层防线架构：

第一层：访问控制与意图审计。


所有对模型的调用必须经过身份认证与权限校验。更关键的是Prompt意图分类——在请求到达模型之前，由一个轻量级分类器（通常是专门微调的小模型）判断该请求是否涉及攻击性内容。同时，全量记录每一次调用的输入输出，供事后审计。

第二层：输出过滤与沙箱执行。


模型生成的代码不能直接进入生产环境。所有生成内容需经过安全分级，涉及系统调用、网络操作、文件写入等敏感行为的代码必须在隔离沙箱中先行验证。对于高风险操作（如直接修改鉴权逻辑、变更网络策略），强制进入人工审批流程。

第三层：持续监测与红蓝对抗。


建立模型行为基线，监控输出分布的偏移——如果某个内部模型突然高频生成网络扫描类代码，这本身就是告警信号。定期由AI红队使用最新的对抗技术测试防线有效性，确保治理体系不滞后于攻击技术的演进。

基于当前技术生态，给出几条具体建议：


零信任的核心原则“永不信任，持续验证”同样适用于AI系统。不要假设内部部署的模型就是安全的——任何模型的输出都应被视为不可信输入，经过与外部用户输入同等级别的校验。


对使用的基础模型、微调数据集、推理框架进行全链路审计。特别关注模型权重的来源可信度——从非官方渠道下载的模型权重可能被植入后门，在特定触发条件下生成恶意代码。


传统的SIEM和SOAR工具对AI生成的攻击检测能力有限。需要引入能理解语义的新一代检测引擎——比如用模型来检测模型生成的攻击载荷，用对抗性思维来对抗对抗性攻击。


安全开发生命周期（SDL）需要新增AI相关的检查点：在设计阶段评估AI组件的攻击面，在开发阶段验证AI生成代码的安全性，在运维阶段监控AI系统的行为异常。

模型能力的双刃剑特性不是某个厂商或某个开源项目的问题，而是技术发展的必然结果。指望通过限制AI能力来保障安全，既不现实也不明智——防御方放弃AI，攻击方不会。真正的出路在于：接受这个现实，在使用环节建立纵深防御体系，让同样的AI能力在防御侧发挥更大的价值。安全从来不是一个终态，而是一场持续的博弈。当攻防双方都拿起了同样的武器，决定胜负的不再是武器本身，而是谁的体系更完整、谁的响应更快、谁的治理更成熟。

 AI漏洞修复 / 网络攻击 / 模型安全 / 企业安全/ 治理

当模型能修漏洞，也能制造攻击：企业安全边界正在消失

2025年下半年以来，多家安全厂商将大语言模型深度嵌入漏洞扫描与自动修复流程，效率提升有目共睹。但硬币的另一面同样刺眼——同样的能力正被用于自动化生成攻击载荷、绕过WAF规则、甚至构造零日利用链。当一个模型既能帮你堵上SQL注入，也能帮攻击者写出更隐蔽的注入变体时，企业过去依赖的“边界防御”思路已经不够用了。本文从技术实现层面，拆解AI在攻防两端的具体应用，分析当前治理困境，并给出可落地的架构..

技术副总经理（CIO）

安全

人工智能

新闻资讯

AI技术正重塑网络安全攻防格局，大语言模型既能高效修复漏洞，也能被用于自动化攻击。本文深度解析AI在攻防两端的同源应用，揭示企业面临的双刃剑困境，并提出三层治理防线和2026年安全架构建议，助力企业构建AI时代的安全防御体系。

结构化数据

漏洞扫描

漏洞修复

代码补全

回归测试

零信任

数据流

Agent

2026上云采购 | AI焕新·智启新局

tpts

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

当模型能修漏洞，也能制造攻击：企业安全边界正在消失

当模型能修漏洞，也能制造攻击：企业安全边界正在消失

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐