首页
学习
活动
专区
圈层
工具
发布
首页标签安全测试

#安全测试

用户一句话把客服机器人"带偏"——提示词注入与 AI 安全测试

霍格沃兹-测试开发学社

AI 测试开发面试高频题:"大模型应用的安全测试怎么做?" 传统安全测试盯的是系统漏洞,AI 安全测试盯的是"模型的服从性"——攻击者不碰你的代码,只用自然语言...

13010

2026年AI安全测试:攻防演进与技术深水区

顾翔

2026年,全球主流AI系统(如多模态大模型、自主智能体、边缘侧轻量化AI)已深度嵌入金融风控、医疗辅助诊断、工业控制与自动驾驶等高风险场景。与此同时,MITR...

32910

开源AI安全测试平台PentAGI部署及体验指南

逍遥子大表哥

PentAGI 是一款创新的自动化安全测试工具,利用了尖端的人工智能技术。该项目面向信息安全专业人士、研究人员和爱好者,帮助他们提供强大且灵活的渗透测试解决方案...

1.1K10

邮件功能不敢直接发给真实用户?用MailHog搭建安全测试收件箱

fruge365

注册验证码、密码重置、订单通知和系统告警,看起来只是应用中的一个小功能,真正调试起来却经常让人头疼。

29810

【安全测试】前端加密绕过!

逍遥子大表哥

接下来,就很简单了,将得到的Key给AI,让它写一个Burp插件,便可以很快解决数据加密问题。

10100

Kali 配置HexStrike AI 进行安全测试

逍遥子大表哥

HexStrike AI 是一款革命性的、由人工智能驱动的进攻性安全框架。它基于 Model Context Protocol (MCP) 协议构建,充当了大语...

96710

AI安全测试性能优化深度解读

顾翔

在大模型驱动的智能客服、金融风控、医疗影像辅助诊断等关键场景中,AI模型上线周期正从“月级”压缩至“周级”,而配套的安全测试却频频卡在“验证难、耗时长、漏报高”...

29710

AI安全测试开源方案:测试专家必看

顾翔

2024年,全球超68%的企业已在生产环境部署AI模型——从智能客服到信贷风控,从医疗影像辅助诊断到自动驾驶决策模块。然而,Gartner最新报告指出:73%的...

52610
领券