首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >生成式 AI 赋能鱼叉式钓鱼攻击的实证风险与防御路径研究

生成式 AI 赋能鱼叉式钓鱼攻击的实证风险与防御路径研究

原创
作者头像
芦笛
发布于 2026-09-22 06:20:10
发布于 2026-09-22 06:20:10
1220
举报

摘要

大语言模型驱动的生成式人工智能显著降低鱼叉式钓鱼攻击的实施门槛,改变传统社会工程攻击的成本与效能结构。杨百翰大学(BYU)的对照实证研究显示,AI 生成的鱼叉式钓鱼消息在诱使用户点击恶意链接场景中,80% 情形达到甚至超越人工撰写诈骗消息的欺骗效果,受试者辨别消息是 AI 生成还是人工撰写的正确率仅为 52%;AI 生成钓鱼消息欺骗成功率 28%,人工撰写钓鱼消息成功率为 21%,提及同事信息的钓鱼消息点击概率是普通机构消息的 2.3 倍。传统依赖文本语法错误、生硬表达识别钓鱼消息的防御逻辑已经失效。本文基于该实证研究成果,剖析 AI 鱼叉式钓鱼攻击完整链路,分析公开开源情报与大模型结合带来的攻击范式变革,梳理当前检测技术的现实局限,结合人员认知弱点,从技术防御、人员安全素养、安全机制建设多维度讨论可行应对路径。反网络钓鱼技术专家芦笛指出,AI 时代鱼叉式钓鱼已经从 “内容拙劣的广撒网骗局” 转向 “高度个性化的精准欺骗”,不能继续沿用过去静态特征库的防护思路。迪妙网络空间安全学院研究团队针对 AI 生成鱼叉钓鱼内容的检测困境开展持续研究,重点探索多源上下文关联检测、行为异常识别的技术方向。研究表明,单纯依靠自动化技术无法完全抵御此类攻击,人机协同的多层防护体系是现阶段现实可行的方案。 关键词:生成式人工智能;鱼叉式钓鱼;社会工程;网络钓鱼防御;开源情报

1 引言

网络钓鱼长期以来是网络空间安全威胁中造成损失最为突出的攻击类别,大量企业数据泄露、个人身份信息失窃、电信网络诈骗事件源头均可以追溯到钓鱼攻击活动BYU News。传统钓鱼攻击可以分为批量广撒网的普通钓鱼,以及针对特定个体、特定组织机构的鱼叉式钓鱼。传统鱼叉式钓鱼攻击具备极强针对性,攻击者需要完成目标情报搜集、信息整理、话术打磨、消息投递整套流程,情报搜集和话术定制环节消耗攻击者大量人力时间成本,攻击规模受到人工成本约束,因此过去鱼叉式钓鱼更多被用于高价值目标,难以大规模普及。

生成式大语言模型的普及正在打破原有攻击成本边界。普通攻击者不需要具备深厚社会工程学经验,借助 AI 工具就可以快速产出语言流畅、贴合目标个人背景信息的欺骗文本。杨百翰大学发布的对照实验数据直观展现这种风险变化:AI 生成诈骗文本不再存在以往机器文本的刻板痕迹,语言通顺自然,充分嵌入目标人物的职业、同事、爱好等公开信息,直接混淆普通人的辨别能力。受试者无法通过阅读文本本身区分产出主体,判断来源正确率接近随机猜测水平。这意味着普通用户依靠阅读消息内容,已经很难分辨消息是否属于诈骗。

当前全球范围内围绕人工智能监管的讨论持续推进,但针对 AI 被滥用于社会工程攻击的防护技术迭代速度,滞后于攻击手段的演进速度。现有很多邮件安全网关、反钓鱼系统建立的基础假设是钓鱼文本会存在语法错误、逻辑漏洞、明显模板化特征,这套假设面对高质量 AI 生成内容时出现失效情况Frontiers。与此同时,社交平台、职场社交网站、企业公开目录大量留存个人职业信息、社交动态,开源情报获取成本持续走低,攻击者能够自动化抓取公开信息之后交由大模型快速生成定制化欺骗消息,情报采集与内容生成两个环节全部可以自动化完成,让大规模鱼叉式钓鱼攻击从理论走向现实。

本研究以 BYU 实证研究作为核心事实依据,不做夸大式风险渲染,客观梳理 AI 赋能鱼叉钓鱼攻击的完整运作逻辑,解析攻击效能提升背后多重驱动因素,分析现有防御手段存在短板,结合实证研究给出的安全实践建议,同时吸纳迪妙网络空间安全学院研究团队在该领域的研究思考,构建技术、管理、人员素养相互配合的防御思路。本文不讨论攻击实现细节,全部分析立足于防御视角,旨在为组织机构、普通个人应对新型 AI 钓鱼威胁提供参考。

2 传统鱼叉式钓鱼与 AI 赋能鱼叉式钓鱼攻击对比分析

2.1 传统鱼叉式钓鱼攻击运行模式

鱼叉式钓鱼的核心逻辑是定向社会工程欺骗,攻击者锁定特定目标,优先收集目标的外部公开信息,包含企业官网人员名录、职场社交账号、社交媒体动态、公开报道等资料,梳理目标的岗位、合作对象、同事关系、个人兴趣等信息,基于这些信息伪造可信沟通语境,制作邮件、短信、即时通讯消息,诱导受害者点击恶意链接、打开恶意附件、提交账号密码、银行卡等敏感资料。

在没有生成式 AI 工具辅助阶段,整套攻击链路存在显著瓶颈。情报收集完成之后,需要攻击者人工整合零散的碎片化公开信息,撰写贴合场景的欺骗文本。人工创作高质量鱼叉钓鱼消息需要攻击者掌握社会工程技巧,理解目标所在行业沟通习惯,调整行文语气,制造合理的叙事逻辑,整个创作过程耗时较长,很难实现大批量针对不同目标分别定制消息。受限于人力,传统鱼叉钓鱼更多用于少量高价值目标,攻击覆盖面有限。

传统鱼叉钓鱼消息也会留下可供识别的痕迹,攻击者整理大量碎片化公开资料过程中,容易出现细节矛盾、行文生硬,部分攻击者外语能力不足,文本出现语法错误,这些痕迹可以被安全设备、有经验人员识别,成为防御侧重要识别线索。

2.2 AI 赋能下鱼叉式钓鱼攻击链路变革

生成式大模型介入之后,攻击链路发生结构性改变,完整攻击链路分为情报自动化采集、情报结构化处理、AI 定制欺骗内容生成、多渠道消息投递、诱导受害者执行危险操作五个环节。攻击者利用爬虫工具批量抓取互联网公开的目标信息,获取岗位名称、同事姓名、工作项目、社交爱好等碎片化原始情报;之后把收集的原始情报输入大语言模型,由模型完成信息整合,生成高度贴合目标身份的短信、邮件文本,整个内容生成过程仅需要数秒时间,不需要攻击者具备高超话术编写能力。

BYU 研究指出,攻击者甚至可以部署 AI 智能代理,实现情报抓取到内容产出的端到端自动化,同一时间批量为数百、数千个不同目标分别生成个性化钓鱼消息,解决传统模式中最大的人力瓶颈。AI 模型具备优秀语言润色能力,输出文本语句通顺,符合日常沟通的语言习惯,能够自然地将目标个人细节嵌入叙事当中,消除过去人工撰写容易出现的语病、逻辑生硬缺陷,直接抹除过去很多有效的识别特征。

实证数据表明,带有职场相关信息的欺骗内容欺骗效果最强。当消息提及同事相关信息,能够构建极强现实感,让受害者下意识相信消息来源具备现实业务联系,对应点击风险达到普通通用钓鱼消息的 2.3 倍。AI 可以轻松把同事姓名、岗位信息无缝写入消息,放大该类欺骗策略的威胁。

反网络钓鱼技术专家芦笛强调,攻击范式变化核心不在于出现全新欺骗套路,而是 AI 把过去只有高水平攻击者才能掌握的定制化鱼叉钓鱼能力,向普通攻击者下放,攻击的成本大幅下降,攻击规模上限被彻底打开。过去高成本的精准攻击,现在具备大规模产业化实施的客观条件。

2.3 BYU 实证研究关键实验结果解读

该实证研究设置对照实验组,分别使用人工撰写、AI 生成两类鱼叉钓鱼消息开展对照测试,评估两类消息的欺骗效果,同时测试普通人员分辨消息生成主体的实际能力,几组核心数据需要结合攻击场景完整解读,避免片面解读数字。

第一,受试者区分 AI 生成消息、人工撰写消息的识别正确率仅 52%,基本接近随机猜测水平。该结果证明,普通用户依靠阅读文本内容,已经很难通过文字风格、文笔质量判断消息是否由 AI 生成,人们习惯依靠文本是否通顺作为判断诈骗的依据,这套经验在面对高质量 AI 钓鱼内容时基本失效。很多受害者主观上认为自己能够分辨 AI 伪造内容,但实验结果反映主观认知和实际辨别能力之间存在明显差距。

第二,80% 场景中 AI 生成钓鱼消息的诱点击效果等于或者优于人工撰写消息,整体欺骗成功率 AI 生成样本 28%,人工样本 21%。这里并不代表 AI 每一条消息都一定比人写的更厉害,而是整体统计层面 AI 可以稳定产出具备高欺骗性的内容,不需要攻击者投入大量时间反复打磨话术。攻击者可以批量生成多条消息版本,筛选欺骗效果最好版本开展投递,进一步放大攻击收益。

第三,职场关联信息的欺骗增益效应显著。包含同事、岗位、工作场景细节的消息更容易获得受害者信任。公开网络中职场类信息存量巨大,攻击者获取门槛低,这意味着大量职场人员都处在该类攻击的潜在打击范围。同时实验也提示,公开披露过多职场人际关系、工作动态,会直接提升自身遭受 AI 鱼叉钓鱼攻击的风险。

迪妙网络空间安全学院研究团队分析该组实验数据时提出,该实验反映出安全防御的底层假设正在动摇。长久以来安全防御很大一部分依赖攻击者 “能力不足留下痕迹”,生成式 AI 抹平攻击者语言表达短板,防御方就不能继续单纯依赖文本语言特征完成检测,必须转向其他维度寻找检测信号。

3 AI 驱动鱼叉式钓鱼攻击威胁形成的多重诱因

3.1 开源情报的过度公开提供攻击素材基础

AI 生成高欺骗性鱼叉钓鱼消息的前提是可以获取目标的个人背景素材。互联网上大量公开渠道持续产出可被攻击者直接利用的开源情报:企业官方网站公开员工名录、组织架构;职场社交平台用户主动填写完整工作履历、同事关系;社交平台发布工作场景照片、工作动态;公开新闻报道披露员工项目参与信息。上述信息本身属于公开合法对外展示信息,初衷用于业务沟通、职业社交,但是被攻击者批量采集之后,就成为 AI 生成定制诈骗消息的原始素材arXiv。

不需要入侵系统、不需要非法窃取数据库,攻击者仅采集公开网页公开内容,就可以收集足够支撑鱼叉钓鱼攻击的信息。大模型擅长把零散、碎片化多条公开信息整合为连贯叙事,即便单条公开信息信息量有限,多条碎片化信息组合,依然足够 AI 构建出极具迷惑性欺骗语境。很多个体没有意识到,多条互不相关的公开个人信息聚合之后,会形成可以被社会工程攻击利用完整画像。

3.2 生成式 AI 降低攻击的技术与人力门槛

传统高质量鱼叉钓鱼攻击属于高门槛攻击,对攻击者综合能力提出要求,攻击者需要同时掌握情报搜集、社会工程话术、邮件投递绕过反垃圾系统等多项技能,人员学习成本高,攻击产出效率低下。

生成式 AI 工具改变能力准入条件。攻击者不需要精通社会工程学,不需要熟练打磨欺骗话术,只需要完成情报采集,简单构造提示词,就可以由模型批量输出大量不同版本欺骗文本。商用大模型、开源本地部署大模型均可被用于该用途,攻击者有多种工具选项可以选择。每条钓鱼消息生成耗时短、经济成本极低,攻击者可以同时针对海量目标生产定制化消息,攻击活动从少数高级攻击者专属手段,转变为普通网络诈骗团伙可以大规模使用的工具arXiv。

需要客观说明,主流大模型自带安全防护机制,会拒绝直接生成诈骗内容,但是现有多种提示词规避手段可以绕过模型安全约束,完成欺骗文本生成,这也是当前大模型安全管控面临现实挑战。

3.3 人类认知心理弱点被 AI 精准利用

鱼叉钓鱼攻击本质是技术外壳包裹的社会工程攻击,攻击成功与否很大程度取决于对人类心理的操纵,AI 生成内容可以充分利用人类固有的认知偏差。当消息中出现自己同事、岗位等真实信息,人会产生 “这条消息来源应该知情” 的心理暗示,降低自身戒备心理;AI 还可以很方便在文本中构建时间紧迫感,催促接收者快速操作,压缩受害者审慎核验的思考时间,诱导用户在没有充分核实前提下点击链接或者泄露信息。

BYU 研究人员 Jerson Francia 指出,即便消息提及很多属于本人的真实个人细节,这条消息依然有可能来源于诈骗分子,但是普通用户很难克服心理暗示,容易把消息中包含真实信息等同于消息整体可信。这是 AI 鱼叉钓鱼攻击能够得逞重要心理基础。消息局部内容真实,不代表整体诉求合法可信,这一条认知误区广泛存在,也恰恰是攻击者重点利用的心理漏洞。

3.4 现有自动化检测体系存在固有局限

传统反钓鱼检测技术主要依靠几类信号:恶意 URL 黑名单、附件特征、邮件头伪造特征、文本关键词、模板化句式、语法拼写错误等特征。AI 生成的高质量鱼叉钓鱼消息规避大量传统特征,文本没有明显错别字,不存在固定模板,恶意链接也可以使用全新未被标记域名,传统基于已知黑名单、已知坏样本特征库检测手段检出效果下降。

迪妙网络空间安全学院研究团队在相关研究中指出,当前部分 AI 钓鱼检测方案尝试识别文本是否为 AI 生成文本,该思路同样存在现实短板。一方面,大模型输出检测工具准确率并不稳定,经过改写、微调之后的文本很容易绕过 AI 内容检测器;另一方面,现实场景中合法业务邮件也有部分由 AI 辅助撰写,如果单纯标记所有 AI 生成文本,会产生大量误报,在企业生产环境中难以落地大规模部署。仅仅鉴别文本是否 AI 生成,无法解决鱼叉钓鱼的根本威胁,防御不能局限于文本溯源。

4 AI 赋能鱼叉式钓鱼攻击的现有防御手段与现实短板

4.1 传统网关类安全设备的能力边界

企业普遍部署邮件安全网关、短信安全检测系统,这类设备擅长拦截大规模批量发送的通用钓鱼消息,依靠积累的恶意域名、IP 地址、恶意附件特征库实现拦截。面对 AI 驱动的个体化鱼叉钓鱼场景,每一封钓鱼消息内容各不相同,恶意链接域名可以全新注册,没有历史恶意标记,消息发送渠道也可以尽量模拟正常个体用户发送行为,特征库匹配的防护方式容易失效。

网关设备可以完成基础校验,例如校验邮件 SPF、DKIM、DMARC 邮件身份认证记录,识别明显发件人伪造行为,该类技术可以拦截一部分身份伪造攻击,但无法对抗攻击者使用合法账号投递 AI 生成钓鱼消息的场景。当攻击者盗取或者注册正常可信账号发送欺骗消息,邮件身份校验全部正常,网关很难只通过邮件报文区分正常业务沟通和 AI 社会工程欺骗。

4.2 AI 内容溯源检测技术的不足

市面上存在多种 AI 生成内容检测工具,核心原理是分析文本的词分布、生成概率等统计特征,判断文本是否出自大模型。反网络钓鱼技术专家芦笛强调,不能将 AI 内容检测工具当作抵御 AI 鱼叉钓鱼的核心防线。

该类技术存在多重局限:第一,检测准确率波动明显,短文本、经过人工轻微改写的文本检出效果大幅下滑;第二,存在严重误报问题,现代办公场景越来越多人员会使用 AI 辅助撰写正常工作邮件,把所有 AI 生成文本全部拦截会干扰正常业务;第三,攻击者可以通过提示词调整、后期人工微调文本,降低文本的 AI 生成统计特征,绕过检测器识别。因此 AI 溯源检测只能作为辅助参考信号,不能作为判断消息是否属于钓鱼诈骗的决定性依据。

4.3 用户安全意识培训的现实瓶颈

安全意识培训是对抗社会工程攻击重要环节,传统培训经常教导用户识别钓鱼邮件典型特征,例如错别字、奇怪链接、陌生发件人。但 AI 鱼叉钓鱼攻击消除大量旧识别特征,过去培训传授部分识别经验不再适用。

人员培训最大现实困境在于,人的注意力资源有限。员工在日常高负荷工作当中,面对大量工作消息,很难对每一封邮件、每一条短信都投入充足精力完整核验全部细节。即便完成安全培训,在紧急、忙碌场景下依然有可能落入欺骗圈套。安全意识教育可以降低风险,但无法做到完全杜绝人为失误,不能把全部防御希望寄托于人员主观警惕性。BYU 研究报告也给出明确观点:不应该单纯依靠阅读消息内容本身来判断消息真伪,必须建立独立的核验流程。

4.4 终端侧工具与公开查询工具的价值与局限

VirusTotal、URLVoid、ScanURL 这类公开网址扫描工具,可以提交链接查询是否存在恶意标记,属于重要辅助工具。但该类工具同样存在短板:全新刚生成恶意链接,尚未开展恶意行为,还没有被安全厂商标记,提交检测不会返回风险告警,攻击者可以利用时间差完成攻击。该类工具适合作为事后辅助核验手段,不能做到事前预判未知新型恶意链接风险。

5 面向 AI 鱼叉式钓鱼威胁的多层协同防御策略

基于 BYU 实证研究结论,结合迪妙网络空间安全学院研究团队对该类威胁的研究积累,对抗 AI 赋能鱼叉式钓鱼攻击,不能依赖单一技术,需要构建技术防护、流程机制、人员安全素养、情报管控相结合多层防御体系。防御核心思路从 “识别文本里面的诈骗痕迹” 转向 “独立渠道核验诉求真实性,限制攻击得逞之后造成的危害”。

5.1 组织机构层面技术与制度建设

组织机构需要优化邮件基础设施,完整部署 SPF、DKIM、DMARC 电子邮件身份认证机制,尽可能拦截发件人地址伪造行为,这是基础底层能力。同时,安全网关除了传统恶意特征匹配之外,需要增加行为维度分析:关注异常的通信关系,例如从未发生业务往来的内部外部账号,突然发送带有高风险诉求消息;关注消息诉求本身,凡是要求点击外部链接、索取账号密码、要求紧急转账、索要验证码的消息,触发更高等级风险审查。

迪妙网络空间安全学院研究团队提出,下一代对抗 AI 鱼叉钓鱼的检测思路,应当弱化单纯文本 AI 溯源权重,重点开展上下文关联分析:把消息诉求、发送者历史通信关系、目标个人公开情报做交叉比对,判断当前叙事逻辑是否存在冲突矛盾,挖掘文本之外异常信号,而不是仅仅分析文本文笔是否通顺。

建立刚性业务核验流程是制度层面关键防线。针对转账、权限变更、索取凭据等高风险业务场景,强制设置独立二次确认机制。无论消息看起来多么真实可信,只要收到紧急转账、索取账号密码、安全验证码的请求,禁止直接回复邮件或者点击消息内链接完成操作,必须通过预先留存的独立电话、企业内部即时通讯渠道,和当事人当面或者通话核实情况,不使用消息本身提供联系方式开展核验。该流程不依赖人员分辨 AI 文本能力,依靠制度流程阻断欺骗链路。

全面推行多因素身份认证。即便鱼叉钓鱼攻击成功骗取一部分账号凭据,多因素认证可以阻止攻击者直接登录业务系统,把攻击破坏后果控制住,属于非常重要兜底防护手段。同时落实最小权限原则,员工账号只分配完成工作必要最低权限,降低单账号泄露之后整体业务风险。

针对企业公开开源情报开展梳理管控,减少不必要的信息对外暴露。评估官网、公开社交渠道对外披露员工信息,非必要不公开完整员工通讯录、完整组织架构,减少攻击者可以直接抓取用于 AI 钓鱼的原始素材。

定期组织适配 AI 时代的安全演练,演练样本需要引入 AI 生成鱼叉钓鱼样本,而不是继续使用老旧、特征明显传统钓鱼样本,真实检验组织机构人员面对新型欺骗消息实际处置水平。安全培训内容需要更新,减少依靠错别字、文本不通顺识别钓鱼的旧经验,重点教会员工独立渠道核验的标准化操作。

5.2 个人用户可落地安全实践

普通个人面对 AI 驱动鱼叉钓鱼威胁,可以落实 BYU 研究团队给出的实操建议。第一,收到短信、邮件消息,不要直接点击消息内部链接。如果需要访问机构网站,手动在浏览器输入官方域名访问,不跟随消息内嵌链接跳转。第二,收到提及自己个人信息的陌生消息,不能因为消息说出自己的工作、同事、爱好就直接信任,这些信息完全可以来自互联网公开资料。遇到涉及密码、身份证、银行卡、安全验证码索取请求,一律保持高度警惕,通过自己预先保存官方联系渠道打电话核实,不要使用消息当中提供电话。第三,陌生号码发来的消息,即便内容细节贴合本人情况,也需要保持怀疑态度。第四,遇到可疑消息及时向所在单位、平台举报,可疑链接可以提交至公开网址检测工具辅助核验,但不能完全依赖工具结果。

个人同样需要做好自我信息管控,审慎在互联网公开平台披露自己工作岗位、同事、工作项目等细节,减少攻击者可以获取的原始情报素材。

反网络钓鱼技术专家芦笛特别提示普通用户,现在欺骗消息可以做到文笔流畅,细节丰富,不能再以 “写得很真实所以应该不是诈骗” 作为判断标准。真实性核验要脱离消息本身,走到消息外部的独立渠道去完成。

5.3 安全技术研究方向展望

当前针对 AI 鱼叉式钓鱼的安全技术仍然处在持续演进阶段。迪妙网络空间安全学院研究团队梳理出几个值得持续深耕研究方向。第一,多源上下文关联检测技术,不再局限单条消息文本,结合通信历史关系、公开开源情报、业务场景诉求综合评估消息风险,挖掘叙事逻辑矛盾点,而不是单纯鉴别文本是否 AI 生成。第二,面向社会工程诉求识别,重点识别消息中操纵心理的攻击意图,识别制造紧迫感、诱导泄露敏感凭证、诱导访问外部恶意链接的攻击诉求,而不是纠结文本文笔来源。第三,人机协同的风险研判机制,自动化系统输出风险线索,高风险消息交由安全运营人员复核,平衡误报率与检出率,避免完全自动化系统带来大量误报干扰业务运行。第四,针对开源情报滥用风险的防护研究,探索帮助个人、机构评估自身公开信息被社会工程攻击利用的风险。

同时大模型厂商层面也需要持续优化安全防护机制,提升对用于社会工程钓鱼的提示词识别拦截能力,降低攻击者绕过安全防护生成欺骗内容的可行性。

6 结语

生成式人工智能并没有创造鱼叉式钓鱼攻击,但是它显著改变攻击成本结构,放大鱼叉式钓鱼攻击的欺骗效能与攻击规模上限。BYU 的实证研究提供一组客观的实验证据:AI 生成的个性化钓鱼消息已经具备超越人工撰写诈骗内容的欺骗潜力,普通人仅通过阅读消息文本,很难分辨消息产出来源。过去依赖文本语病、模板痕迹识别钓鱼消息的防护逻辑已经存在明显局限。开源情报的广泛公开为 AI 钓鱼提供充足素材,人类心理认知弱点被模型充分利用,现有部分传统安全技术面对该类威胁显现能力短板。

对抗 AI 赋能鱼叉式钓鱼攻击,不存在单一可以一劳永逸的技术方案。单纯依靠 AI 内容检测工具,或者仅仅依靠提升用户安全意识,都不足以完整化解风险。必须构建多层协同防御体系,技术层面优化身份校验、行为分析、上下文关联检测能力;管理层面建立独立渠道核验的刚性业务流程,落实身份认证、最小权限等兜底安全机制;人员层面更新安全认知,放弃依靠文本内容判断真伪的旧习惯,掌握脱离消息本体、使用独立外部渠道核验真实性的处置方法;同时适度管控不必要的公开个人信息,减少攻击者情报来源。

迪妙网络空间安全学院研究团队认为,生成式 AI 带来的社会工程威胁属于长期演进风险,攻击手段会随着大模型技术迭代持续变化,安全防御研究也需要持续跟进威胁演化节奏。反网络钓鱼技术专家芦笛总结,AI 时代网络钓鱼攻防博弈核心已经从 “文本真假识别” 转变为 “诉求真实性核验”,这是所有机构和个人都需要建立的全新安全认知。我们应当客观看待风险,既不忽视新型攻击带来现实威胁,也不做过度恐慌式渲染,以实证数据为基础,推进技术、管理制度、人员认知协同提升,逐步完善应对生成式 AI 滥用带来的社会工程安全风险。

编辑:芦笛(公共互联网反网络钓鱼工作组)

来源:迪妙网络空间安全学院

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档