- 综合排序
- 最热优先
- 最新优先
- 来自专栏首席安全官
AI安全架构：从AI能力到安全平台落地实践
AI重塑安全行业 人工智能（AI）正在加速重塑网络安全产业的技术架构与运营范式。 AI安全机遇与挑战 2.1 机遇：AI为安全工作带来的范式变化 (1) 检测响应能力的倍增 在AI加持下，安全的IPDR循环（Identify-Protect-Detect-Respond）迎来质的飞跃 AI安全平台如何落地 4.1 分阶段建设路线 AI安全平台的落地不是一蹴而就的，应遵循渐进式、迭代式的方式，分三个阶段推进： 第一阶段：AI赋能安全场景（基础能力建设，6-12个月） 目标：快速验证AI 第三阶段：AI重塑安全架构（整体转变，24个月以上） 目标：构建以AI为核心的新型安全架构，实现”人+AI”的最优协同。 人才培养与建设 AI安全岗位人才培养：与高校联合培养AI安全工程师、安全架构师。 继续教育项目：为现有安全从业人员提供AI转型培训。
89710编辑于 2026-01-20 - 来自专栏人工智能
建立安全的 AI
这将为神经网络带来两个有益的特性：首先，神经网络的智能可以受到更好的保护以免被他人盗取，消除了在不安全环境下训练的有价值的AI被其他智能盗取的风险；其次，网络可以只作加密的预测（这意味着在没有密钥的情况下 试想，如果AI是经过同态加密处理的，那么从AI的角度来看，整个外部世界也是同态加密过的。而人类可以控制密钥从而决定是解锁AI自身（在外部世界发布）还是只解码AI作出的决策（似乎显得更安全）。 此外，初创对冲基金会Numer.ai加密了昂贵，专有的数据来提供给任何人训练机器学习模型来预测股票市场。 相应地，人们需要寻求一个有效且安全的同态加密算法方案，可以根据任意的计算输入去完成相应的逻辑门操作。人们普遍的希望是可以将工作安全地移植到云上并且不用担心发送的数据被发送者以外的人监听。 但是这个方法很复杂，为了使本文更加简单有趣，我们选择了稍逊一筹的方案（基于整数向量的高效同态加密，安全性要差一点）。
2.3K110发布于 2018-02-23 - 来自专栏数据猿
【AI大模型展】风云卫AI安全能力平台——打造AI+安全新范式
产品功能 1、安全Copilot：安全Copilot是AI安全协作工具，它统一调度各类AI安全应用，根据安全Copilot应用模板要求，执行实时监控网络环境、自动分析日志数据及识别异常行为等功能，迅速定位潜在的安全威胁 2、AI语音助手：风云卫引入自然语言处理与语音识别技术的AI语音助手，为网络安全管理带来前所未有的交互体验。 5、AI事件调查：AI事件调查功能从攻击者视角和资产视角，深入挖掘安全事件的根源，揭示隐藏的攻击路径与关联事件。 6、AI降噪分诊：AI降噪分诊功能运用智能算法筛选出真正有价值的安全告警，剔除误报和无关信息，从而使得安全团队能够集中精力处理真正紧迫的问题。 技术说明 1、AI智能体: 构建于大语言模型之上的AI智能体，通过模拟安全专家的决策逻辑与实战经验，实现了对复杂网络安全情境的自主学习与高效应对。
87210编辑于 2024-07-16 - 来自专栏数说工作室
从 AI 到 信息安全
，或者至少，被推荐对象不会躲着AI走（推荐给我不需要的东西，什么心态？）。 但是算法用来做安全对抗就完全不一样了，算法努力计算出攻击者画像、预测出攻击者的行为，而攻击者则努力规避算法的计算，试图通过各种方式绕开AI的猜测，于是变成了一场对抗。 这是AI算法应用在信息安全的客观情况，包括网络入侵、帐号盗用、活动作弊（就是常说的薅羊毛）等，以下统称 “入侵”，攻击者为了让算法感受不到它的存在，会通过各种方式变换自己的行为特征，尽可能的不留下自己的痕迹 lx=FMSQ 千变万化——绕过去，让AI和规则发现不了！ 其实也写过几篇数据安全的文章： 国际风云 | 数据安全与个人隐私保护 还会继续写。
80310编辑于 2022-08-25 - 来自专栏AI科技评论
论道AI安全与伦理
” 论道AI安全与伦理：我们能达到电影里的智能吗？最可能实现的AI场景是什么？如何看待AI自主性？ 出席嘉宾还包括中国人民大学高瓴人工智能学院院长文继荣和搜狐网产品技术总监杨田等人，就主题「AI 安全与伦理」展开了激烈的辩论。 Topic 3：关于 AI 隐私与安全之间，应该如何抉择？ 在这里，主持人先引入了一个故事。一辆火车行驶在正常轨道上，前方有 5 个人，而另一条岔道上有 1 个人。 所以就 AI 隐私与安全来讲，其实不存在绝对的选择，相比之下，如何去平衡这两者是个更值得探讨的问题。随后他举了一个利用在部分公共场合增加摄像头，从而使抓到逃犯的几率上升的这个例子。 装摄像头肯定损害了个人利益，但却保证了更多人的安全。所以就个人而言，张钹院士主张如果影响到了公共利益的罪犯要抓，个人要做点牺牲；但这是中国的哲学、中国的价值观，西方不接受这种价值观。
73120发布于 2019-06-15 AI Agent安全实践指引
月） 行业标签：技术服务,安全 产品标签：undefined#AI Agent安全中心undefined#AI Agent安全网关undefined#iOA（终端安全管理系统）undefined #威胁情报能力 第二章：报告背景和目标 随着AI Agent在企业规模化部署，其自主决策与工具调用能力挑战了传统安全体系，引发权限滥用、供应链风险等新型威胁。 本报告由工信部网络安全威胁和漏洞信息共享平台（NVDB）联合行业机构制定，提出“六要六不要”原则及三层防护体系，助力企业实现风险可控、行为可溯的AI Agent落地。 第六章：为什么选择腾讯云 腾讯云通过以下能力为AI Agent提供全生命周期防护： 开箱即用防护体系：整合AI Agent安全网关（输入过滤）、iOA终端沙箱（运行隔离）、威胁情报库（恶意组件识别） 安全能力模块化：提供AI资产盘点、Token限流、数据防泄漏等标准化模块，降低企业部署复杂度。
39820编辑于 2026-04-02- 来自专栏智能视频图像
工地安全管理系统-智慧工地AI安全助手
由于安全事故的频繁发生导致企业的建设成本增加，为此，必须要有完善的建筑施工工地安全管理系统，减少建筑行业施工过程中的安全隐患，营造安全的施工环境。 正值6月，一年一度的安全生产月，特推出工地安全管理系统-智慧工地AI安全助手；对安全帽佩戴、烟雾火焰、危险区域人员闯入进行检测，无需人工干预，有效预防安全生产事故，实现安全生产智能化管理。 为什么要打造智慧化工地安全管理系统呢？ 1.消除事故隐患，筑牢安全防线 2.提高施工现场作业的工作效率 3.增强工程项目的精益化管理水平 4.提升行业监管和服务能力 5.落实安全规章制度，强化安全防范措施 智慧化工地安全管理系统有哪些组成部分 危险区域人员闯入识别系统 工地安全管理系统-智慧工地AI安全助手的运用，改变传统意识中工地的模样，对工地施工现场进行全天24小时视频监控，解决施工中的隐患，直击痛点，让工地‘智慧’起来。
5.1K00发布于 2020-06-20 前沿安全框架更新，强化AI模型安全协议
这就是为何在去年引入了第一版前沿安全框架——一套旨在帮助我们领先于强大前沿AI模型可能带来的严重风险的协议。 我们认为，对于前沿AI开发者来说，为未来场景（当其模型能够显著加速和/或自动化AI开发本身时）建立强有力的安全措施至关重要。 这是因为此类能力的不受控扩散可能会严重挑战社会仔细管理并适应AI快速发展步伐的能力。确保尖端AI系统的持续安全是一项全球性的共同挑战，也是所有领先开发者的共同责任。 建立我们认为可能需要的安全能力需要时间——因此，所有前沿AI开发者共同致力于强化安全措施并加速推进共同行业标准至关重要。 《首尔前沿AI安全承诺》标志着朝着这一集体努力迈出了重要一步——我们希望我们更新后的前沿安全框架能为此进展做出进一步贡献。
13910编辑于 2026-01-16- 来自专栏腾讯云安全的专栏
腾讯云公布安全 AI 布局，聚焦 AI 及大数据构建智慧安全
会上，腾讯云正式公开了在云安全领域的 AI 战略布局，包含 AI 安全能力矩阵与产品矩阵，将腾讯云 AI 能力在安全场景下对外开放。 将 AI 能力应用到安全领域 腾讯云展示安全 AI 布局 腾讯云副总裁、腾讯社交网络与腾讯云安全负责人黎巍强调：“在黑客将AI能力作为攻击利器之前，安全需要以 AI 打造出坚盾。” 腾讯云将上述 AI 安全能力与不同场景结合，便诞生了对应的 AI 安全产品矩阵。 此次大会，腾讯云聚焦 AI 及大数据在云上安全的实践，全面展示安全 AI 的布局，相信将激发安全行业对 AI 应用的更多思考。 至此，腾讯云“AI 即服务”的战略与“智能云”概念在安全领域的布局已十分清晰，将基于大数据 AI 引擎，将核心 AI 能力与不同安全场景结合，打造更具智慧安全的云上环境。
2.2K30发布于 2018-06-12 - 来自专栏科技云报道
AI攻击AI，升级的网络安全战
在近期召开的在一次网络安全会议上，100位受访行业专家中的62位认为，首轮AI强化型网络攻击很可能在接下来12个月内出现。 AI的介入会进一步升级目前的网络犯罪与网络安全体系，进而成为攻击者与防御者之间军备竞赛的核心支柱之一。 这种担忧并不是空穴来风。 网络安全是一个人力受限的市场，而计算机除了不需要进食与休息之外，还能够以AI自动化的方式，提升复杂攻击的速度与执行效率，这很容易诱使黑客使用AI进行攻击。 AI系统甚至可被用于从多个来源处同时提取信息，从而发现那些易受攻击活动影响的目标。 其次，AI能够帮助提升适应能力。 AI支持型攻击者在遇到阻力，或者网络安全专家修复了原有漏洞时，能够快速作出反应。 最后，用户也应当树立安全意识，防止社会工程攻击，阻止密码重用，并在可行的情况下提倡双因素身份验证。
63130编辑于 2022-04-16 - 来自专栏FreeBuf
AI安全 | 给中文 AI 的100瓶毒药
作者丨爱吃炸鸡 编辑丨Zicheng 当人类凝视AI时，AI也在凝视人类。网络安全永远是AI大模型大规模应用及演进过程中不可忽视的核心点。 随着越来越多AI大模型的出现，生成式人工智能背后隐藏的安全风险也变得越来越高。 有专家大胆预测，安全问题将会一直伴随着AI的发展，AI与安全风险是一剑之双刃、一体之两面。 能否将安全风险进行有效控制，决定了AI最终能否走向用户与市场。 AI大模型安全风险已经出现 如同亚当夏娃诞生在伊甸园时，那颗引诱其犯罪的苹果也随之出现。 清华大学上线AI评估工具 为了让AI的安全性更高，清华大学计算机科学与技术系CoAI小组上线了一套系统的安全评测框架，以此检测汉语大型语言模型道德观、法律观等重要安全指标。 未来，期待更多的AI大模型在安全方面持续投入资源，打造安全性更高的人工智能。 这也是未来AI监管的需要。
95820编辑于 2023-08-08 - 来自专栏网络安全
开源AI应用安全指导框架 — OWASP AI Exchange
在当今信息化迅猛发展的时代，网络专业人士正竞相提升人工智能（AI）安全领域的专业技能。 OWASP正越来越多地被视为AI安全知识的权威来源，其2023年发布的OWASP LLM Top 10便是最早的体系化AI安全风险列表，该列表详述了大型语言模型（LLM）系统的十大潜在风险，并提供了相应的风险缓解策略 下图形象的展示了AI面临的一些常见攻击手段和信息泄露风险AI安全控制内容概要 AI 安全控制（以大写字母表示 - 并在文档中进一步讨论）可以按照元控制进行分组：应用 AI 治理 （AIPROGRAM AI Exchange 和即将推出的 ISO 27090（AI 安全）是更全面的威胁和控制来源。 将安全软件开发应用于 AI 工程 （SECDEVPROGRAM），并在安全开发时使用涵盖技术应用程序安全控制和操作安全的标准（例如 15408、ASVS、OpenCRE）。
58910编辑于 2024-09-22 - 来自专栏中国白客联盟
甲方安全建设-利用AI大模型协助安全运营
前言 现在AI流行，chatgpt官方和很多公司都开放了类gpts接口，也就是用户可以创建自己的gpt，内置好自己的知识库和处理逻辑，然后根据用户的输入进行处理和输出，那么在安全运营的工作中，我们也可以借助 AI帮我们完成如攻击payload分析、告警日志分析、IP威胁情报查询并自动封禁等安全运营工作。 coze使用 coze简称扣子，是字节开放的大模型 AI 应用开发平台，用户可以借助该平台完成bot的开发以完成用户特定的需求。 ## 技能 ### 技能 1: 安全问题解答 - 根据用户面临的安全问题，提供专业的解决方案。 - 执行全面的安全检查并采取相应的补救措施。 ### 技能 3: 安全性建议和修复代码供应 - 根据需要，给出个性化的安全建设方案和漏洞修复建议。
78010编辑于 2024-06-24 - 来自专栏钱曙光的专栏
AI 重新定义 Web 安全
于是，我们用AI重新定义Web安全，因为我们坚信异常行为和正常行为可以通过特征识别被区分。 用AI重新定义Web安全 那如何解决安全领域的样本标注问题呢？机器学习分为两大类：监督学习和无监督学习。 AI2系统，可以在有限人工参与的情况下，让安全系统更安全更智能。 重新定义Web安全 基于上述几点，我们基本可以勾勒出基于AI的Web安全的基本要素： [1507692394195_5439_1507692390178.png] AI Web安全技术栈 从图中可以看到 综上所述，我们可以看出利用AI实现Web安全是一个必然的趋势，它可以颠覆传统基于policy配置模式的安全产品，实现准确全面的威胁识别。 总之，基于AI的Web安全是新兴的技术领域，虽然目前还处于发展期，但最终一定会取代以policy为驱动的传统安全产品，成为保证企业Web安全的基石。
1.5K00发布于 2017-10-12 - 来自专栏燧机科技-视频AI智能分析
ai安全帽识别检测
ai安全帽识别检测通过python+yolov5网络模型深度学习AI视频分析技术，ai安全帽识别检测对现场人员是否佩戴安全帽进行识别检测，ai安全帽识别检测一旦发现现场工人员没有按要求佩戴安全帽，自动进行预警并保存图像到本地同步提示后台人员及时处理 我们选择当下YOLOv5来进行安全帽识别检测。6月9日，Ultralytics公司开源了YOLOv5，离上一次YOLOv4发布不到50天。而且这一次的YOLOv5是完全基于PyTorch实现的！
78230编辑于 2023-03-20 - 来自专栏AI SPPECH
AI辅助安全渗透测试_02
近年来，人工智能（AI）技术的快速发展为安全渗透测试带来了新的思路和方法。AI辅助安全渗透测试能够自动化识别潜在的安全漏洞，分析攻击路径，甚至预测可能的攻击手段，大大提高了安全测试的效率和准确性。 概念解析 AI辅助安全渗透测试的定义与特点 AI辅助安全渗透测试（AI-Assisted Security Penetration Testing）是指利用人工智能技术辅助或增强传统的安全渗透测试过程， AI在安全渗透测试中的主要应用场景 AI技术在安全渗透测试中的应用场景非常广泛，主要包括以下几个方面： 漏洞扫描与识别：利用AI技术自动扫描和分析目标系统的代码、配置和运行状态，识别潜在的安全漏洞，如 核心原理 AI辅助安全渗透测试的技术基础 AI辅助安全渗透测试技术主要基于以下核心技术： 机器学习（Machine Learning）：机器学习是AI辅助安全渗透测试的核心技术之一，主要包括监督学习、 在AI时代，具备AI技术应用能力、安全专业知识和创新思维的网络安全人才将更具优势。
64910编辑于 2025-11-13 - 来自专栏AI SPPECH
AI辅助安全渗透测试_03
本研究基于对15个行业领先AI安全测试工具的深入分析和5个企业级实施案例，系统探讨AI在安全渗透测试中的应用现状、核心技术、实践效果及未来趋势，为网络安全从业者提供全面的技术路线图。 概念解析 AI辅助安全渗透测试定义与分类 AI辅助安全渗透测试是指利用人工智能技术增强或部分替代传统人工渗透测试流程，提高漏洞发现效率和准确性的新兴测试方法。 针对性培训：AI基础知识+安全领域应用 角色重构：培养AI安全分析师新角色 专家合作：AI团队与安全团队紧密协作 实施路径：6个月培训计划，分阶段技能评估 与现有安全工具集成 挑战： 85% 安全测试人员角色演变 AI技术将重塑安全测试人员的角色和技能需求： AI安全训练师 新角色：训练和优化AI安全测试模型 核心职责： 标注高质量安全测试数据 调整模型参数，提高检测精度 能力要求：红队技能+AI工具驾驭能力 结论 AI辅助安全渗透测试正引领网络安全评估进入智能化时代，通过机器学习、知识图谱和自动化技术的融合，大幅提升了安全测试的效率、覆盖率和准确性。
75510编辑于 2025-11-13 - 来自专栏AI SPPECH
AI辅助安全渗透测试_01
AI辅助安全渗透测试的技术基础 2.1 AI在安全领域的应用概述 AI技术在网络安全领域的应用正在迅速发展，主要包括： 威胁检测：利用机器学习算法分析网络流量、系统日志等数据，检测异常行为和潜在威胁。 开源社区也开发了一些AI辅助渗透测试工具，为安全社区提供了更多选择： OWASP AI4Sec：OWASP项目，致力于将AI技术应用于网络安全领域，提供了多种AI辅助安全测试工具和框架。 7.2 对安全行业的影响 AI辅助渗透测试技术的发展将对安全行业产生深远影响： 安全人才角色转变：安全人员的角色将从手动测试者转变为AI系统的训练者、监督者和分析师，需要掌握更多的AI知识和技能。 安全市场格局变化：AI安全技术的发展将催生一批新的安全企业和产品，改变现有的安全市场格局。 安全标准与法规演进：随着AI安全技术的普及和应用，相关的安全标准和法规也将不断演进和完善。 同时，我们也需要关注AI技术带来的新安全风险和挑战，如对抗攻击、隐私保护等问题，确保AI技术的安全、可靠应用。 让我们共同期待AI辅助安全渗透测试技术带来的网络安全新未来！
86910编辑于 2025-11-13 - 来自专栏AI科技大本营的专栏
你的 AI 算法模型安全吗？来 AI 安全测试基准平台测试下
为何 AI 安全如此重要？譬如去年引发全民“吃瓜”的“AI 换脸杨幂”等换脸技术，在娱乐之余，还有可能被不法分子应用到黑产以及金融欺诈事件中。 因此干扰 AI 检测，无法检测出行人，达到“隐身”的效果。 面向恶性 AI 安全事件不断涌现，如何提前评估 AI 算法安全，检测算法漏洞？ 6月3日，清华大学联合阿里安全、Real AI发布了 AI 攻防对抗基准平台（Adversarial Robustness Benchmark），可对 AI 防御和攻击算法进行自动化和科学地评估。 AI 模型攻防“标尺” AI 安全基准平台基于清华大学在 2020 年GitHub 开源的 ARES 算法库，提供模型攻击与防御的排行榜。 此次竞赛吸引到了全球 2000多支代表队提交的最新算法，进一步提升了该安全基准的科学性和可信性。 据介绍，工业界可用该平台来评估自己的 AI 算法安全性，帮助尽早发现模型的安全漏洞。
90920编辑于 2023-05-08 - 来自专栏首席安全官
AI安全：基于ATT&CK方法论构建企业AI安全体系
参考腾讯AI Lab、腾讯朱雀实验室、香港中文大学（深圳）等机构联合发布的《AI安全威胁风险矩阵》首次以全生命周期视角系统梳理AI安全领域最前沿的研究成果。 四、供应链与生态安全：AI系统面临的新型威胁 随着AI应用生态的繁荣，供应链安全成为了一个不容忽视的新维度。 五、企业AI安全防护的分层防御体系 5.1 第一层：治理与策略层（Govern） 目标：建立组织级的AI安全文化和框架，确保从上到下都重视AI安全。 关键控制： AI安全政策制定：明确组织对AI系统安全的立场、要求和标准。 风险管理流程：建立识别、评估和处理AI安全风险的标准化流程，确保所有新增AI应用都经过风险评审。 八、结论：构建面向未来的AI安全体系 AI安全威胁矩阵为企业提供了一个系统化、可操作的框架，用于识别和应对AI系统面临的多维度威胁。
55421编辑于 2026-01-20
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号