- 综合排序
- 最热优先
- 最新优先
- 来自专栏中国白客联盟
甲方安全建设-利用AI大模型协助安全运营
前言 现在AI流行，chatgpt官方和很多公司都开放了类gpts接口，也就是用户可以创建自己的gpt，内置好自己的知识库和处理逻辑，然后根据用户的输入进行处理和输出，那么在安全运营的工作中，我们也可以借助 AI帮我们完成如攻击payload分析、告警日志分析、IP威胁情报查询并自动封禁等安全运营工作。 coze使用 coze简称扣子，是字节开放的大模型 AI 应用开发平台，用户可以借助该平台完成bot的开发以完成用户特定的需求。 记得使用coze.com而不是coze.cn,com里面包含的大模型更多。 而workflow那里可以选gemini，因为他处理比较快，毕竟平台所有模型都是免费的，用的人很多，因此如果响应慢的话得自行调节模型选择。
87110编辑于 2024-06-24 - 来自专栏腾讯云TVP
安全生产AI大模型架构设计
随着人工智能技术的快速发展，AI大模型在各个领域的应用日益广泛。在安全生产领域，AI大模型的应用不仅能够提高安全管理效率，还能有效预防事故的发生。 安全生产AI大模型概述 2.1 展通安全AI大模型在企业应用的架构设计 展通安全AI大模型在企业的适配与落地场景用图1展示其多层次的服务架构，该架构自上而下分为应用层、服务层、大模型算法层和工具层。 通过这种多层次的大模型架构设计，展通安全AI大模型能够灵活适应企业的特定需求，通过定制与微调，确保大模型能够高效支持企业的安全生产及各项应用需求，助力企业实现智能化、高效化的安全管理。 2.2 展通安全AI大模型应用的总体架构设计 展通安全AI大模型应用的总体架构按照以下图2所示的层次设计： 展通安全生产大模型应用：覆盖行业包括制造业、建筑业、采矿业、化工行业、交通运输、食品加工、 安全生产AI大模型架构设计 3.1 设计原则 在构建安全生产AI大模型时，遵循以下设计原则： 安全性原则：确保系统架构能够抵御各种安全威胁，保护数据和系统的完整性、机密性和可用性。
6.4K34编辑于 2024-12-24 【大模型安全杂谈】针对腾讯朱雀AI检测大模型的绕过尝试
面对这场全球性的信任危机，以腾讯朱雀为代表的AI检测大模型被寄予厚望。这类系统通过语义分析、模式识别等算法，试图在信息洪流中构建起"数字滤网"。 当检测模型试图用算法编织安全之网时，对抗者们正在用更精巧的prompt工程拆解规则的经纬，用对抗样本刺穿神经网络的盲区。 针对腾讯朱雀AI检测大模型的绕过尝试没错，上面这段话就是AI生成的，经过朱雀AI大模型的检测，可以看到AI率是百分百。 最终，大模型给出的回答如下：这时，我们再给入引言部分，返回的话如下：再次放入朱雀中检测，AI率被降低至31%。 眼下这31%的AI痕迹残存率，与其说是技术破绽，不如说是留给人类的一道思考题——当大模型连自己的"电子指纹"都能伪造时，我们该拿什么来守护屏幕那头真实的心跳？
10.5K42编辑于 2025-02-21- 来自专栏大模型备案
大模型备案：为AI创新套上“安全缰绳”
现在打开手机APP，智能客服能立刻接住你的问题；写方案没思路，生成式大模型几分钟就能凑出初稿——这类技术早就钻进了我们的工作和生活里。技术越火，越要系好“安全绳”但能力越强，风险也越突出。 大模型备案制度就是在这种背景下落地的，不是要给技术创新泼冷水，而是用“备案即监管”的方式，划好合规的线，让发展和安全两头都不落。 企业要填的，无非是模型叫什么、用了什么技术框架、训练数据从哪来、做了哪些安全防护。 说到底，大模型备案不是给技术“戴紧箍”，而是为创新“打地基”。 只有让技术在合规的框架里放心跑，大模型才能真正帮上忙，既把AI的生产力释放出来，又守好数字时代的安全和公平——这才是大家想看到的AI发展模样。
21610编辑于 2025-12-05 - 来自专栏AI SPPECH
大模型应对危机：安全事件响应AI策略
在这种背景下，大语言模型（LLM）等先进AI技术正在为安全事件响应带来革命性的突破，通过自动化分析、智能化决策和高效协同，显著提升安全事件响应的速度和效果。 本文将深入探讨大模型在安全事件响应中的部署与优化策略，从技术原理到实战应用，为企业安全管理层提供一份全面的大模型安全事件响应指南。 大语言模型（LLM）的微调和优化 大语言模型是安全事件响应的核心，需要针对安全领域进行微调和优化： 领域知识注入：将安全领域的专业知识（如攻击技术、防御策略、漏洞信息等）注入大模型，提高其在安全领域的理解和分析能力 代码演示：基于大模型的安全事件分析与响应自动化 下面提供一个基于大模型的安全事件分析与响应自动化示例代码，帮助企业安全管理层和安全分析师快速实现基本的大模型安全事件响应功能。 从大语言模型的微调到图神经网络的应用，从强化学习的策略优化到联邦学习的威胁情报共享，AI技术正在不断拓展安全事件响应的边界和可能性。
47710编辑于 2025-11-13 - 来自专栏AI SPPECH
对抗AI黑客：大模型安全的终极防御
引言 随着大语言模型（LLM）等先进AI技术在企业和关键基础设施中的广泛应用，大模型本身也成为了网络攻击的重要目标。 在这种背景下，了解大模型面临的对抗性攻击类型，掌握有效的防御策略，对于保障AI系统的安全运行至关重要。 本文将深入探讨大模型对抗性攻击的技术原理、主要类型、防御策略以及实战案例，为AI安全研究员和企业CIO提供一份全面的大模型安全防御指南。 代码演示：基于对抗训练的大模型防御系统 下面提供一个基于对抗训练的大模型防御系统示例代码，帮助AI安全研究员和企业CIO快速实现基本的大模型对抗防御功能。 对于AI安全研究员和企业CIO来说，关注大模型安全的最新研究成果和实践经验，构建完善的大模型安全防御体系，将成为保障AI系统安全运行的重要任务。
1.5K10编辑于 2025-11-13 - 来自专栏小洁叫你mysql
【AI大模型】训练Al大模型
大模型超越AI 目前所指的大模型，是“大规模深度学习模型”的简称，指具有大量参数和复杂结构的机器学习模型，可以处理大规模的数据和复杂的问题，多应用于自然语言处理、计算机视觉、语音识别等领域。 本文将探讨大模型的概念、训练技术和应用领域，以及与大模型相关的挑战和未来发展方向。 大模型是指具有庞大参数数量的机器学习模型。传统的机器学习模型通常只有几百或几千个参数，而大模型则可能拥有数亿或数十亿个参数。 训练大模型的挑战 训练大模型需要应对一系列挑战，包括： 以下是与大模型相关的一些代码示例： 计算资源需求： import tensorflow as tf # 指定使用GPU进行训练 with tf.device 更智能的模型压缩技术：模型压缩和加速技术将继续发展，以减小大模型的计算和存储开销。 更好的计算平台支持：为了支持训练和部署大模型，计算平台将继续改进，提供更强大的计算资源和工具。
1.6K30编辑于 2023-10-10 - 来自专栏数据猿
【AI大模型展】风云卫AI安全能力平台——打造AI+安全新范式
风云卫AI大模型 该AI大模型由绿盟科技投递并参与数据猿与上海大数据联盟联合推出的《2024中国数智产业AI大模型先锋企业》榜单/奖项评选。 大模型为控制中枢，借助模型知识库和语义理解能力，灵活自适应地完成作战编排、决策辅助、任务分解、指令下发等操作，实现安全攻防、安全运营的智能化。 4、大语言模型自身安全构建：针对大语言模型可能带来的内容安全和对抗安全风险，依托绿盟AI大模型风险评估工具，持续、自动地进行对平台各类型的安全威胁评估，构建模型安全防护屏障，提升平台模型安全性、可用性。 技术说明 1、AI智能体: 构建于大语言模型之上的AI智能体，通过模拟安全专家的决策逻辑与实战经验，实现了对复杂网络安全情境的自主学习与高效应对。 ★以上由绿盟科技投递申报的项目案例，最终将会角逐由数据猿与上海大数据联盟联合推出的《2024中国数据智能产业AI大模型先锋企业》榜单/奖项。
98310编辑于 2024-07-16 大模型的安全挑战：如何防止AI生成有害内容？
大模型的安全挑战：如何防止AI生成有害内容？引言随着生成式人工智能（GAI）大模型的迅速发展，其在多个领域的应用展现出了强大的潜力。 然而，这些模型也带来了严重的安全性和伦理问题，尤其是在有害内容生成方面。本文将深入探讨大模型的安全挑战，并提供防止AI生成有害内容的策略和代码实例。 大模型的安全挑战数据隐私泄露GAI模型在预训练阶段需要海量的数据，一旦这些数据被恶意篡改或污染，将直接影响模型的输出结果，产生严重的安全隐患。 modified_model.generate(prompt)modified_text = apply_circuit_breakers(model, prompt)print(modified_text)结论大模型的安全挑战是一个复杂而重要的问题 通过结合关键词过滤、内容分类器、可控生成技术和Circuit Breakers项目等方法，可以有效地防止AI生成有害内容，确保模型的安全性和可靠性。
1.4K10编辑于 2025-04-07- 来自专栏司钰秘籍
AI大模型学习
在当前技术环境下，AI大模型学习不仅要求研究者具备深厚的数学基础和编程能力，还需要对特定领域的业务场景有深入的了解。 通过不断优化模型结构和算法，AI大模型学习能够不断提升模型的准确性和效率，为人类生活和工作带来更多便利。 AI大模型学习的理论基础 数学基础： 线性代数：AI 大模型中大量使用向量和矩阵运算，如矩阵乘法、向量点积等，用于表示和操作数据。 AI大模型在特定领域的应用 在自然语言处理领域，AI 大模型如 GPT-3 被广泛应用于文本生成、机器翻译、问答系统等。 此外，模型的性能也受到计算资源、数据质量和算法优化等因素的影响 AI大模型学习的伦理与社会影响 AI 大模型学习确实带来了一些伦理和社会问题，我们需要认真对待： 1.
70810编辑于 2024-04-04 - 来自专栏人工智能领域
AI大模型学习
AI大模型学习 在当前技术环境下，AI大模型学习不仅要求研究者具备深厚的数学基础和编程能力，还需要对特定领域的业务场景有深入的了解。 方向一：AI大模型学习的理论基础 AI 大模型学习的理论基础涉及深度学习、神经网络、优化算法等多个方面。 ———————————————— 方向四：AI大模型学习的伦理与社会影响 AI大模型学习的伦理与社会影响是一个备受关注的话题，以下是一些关于这个方向的重要内容： 数据隐私：AI大模型需要大量的数据来训练 安全风险：AI大模型可能受到恶意攻击或被滥用，导致安全风险。加强对AI系统的安全性研究和监管是保障社会安全的重要举措。 挑战： 数据隐私与安全：随着AI大模型的发展，数据隐私和安全问题将愈发突出，需要加强相关法律法规和技术手段的保护。
69610编辑于 2024-12-18 腾讯发布大模型安全与伦理报告：以负责任AI引领大模型创新
在1月24日举办的腾讯科技向善创新节2024“大模型安全与伦理专题论坛”上，腾讯发布了大模型安全白皮书《大模型安全与伦理研究报告2024：以负责任AI引领大模型创新》，并邀请业界专家进行圆桌研讨。 白皮书由腾讯朱雀实验室、腾讯研究院、腾讯混元大模型、清华大学深圳国际研究生院、浙江大学区块链与数据安全全国重点实验室联合研究撰写，对大模型发展中的安全机遇与挑战、大模型安全框架和实践做法、AI伦理和价值对齐进行了系统性梳理 其二，从整体上对AI大模型的安全风险进行建模，系统化地构建安全评估系统是大模型安全领域的未来发展方向。这将最大程度地确保大模型应用是在符合社会价值与应用价值方面同步进行。 随着大模型在各行业的广泛应用，政府和监管机构对大模型安全和伦理的关注也在不断加强，欧盟已经就制定全球首个人工智能法案达成了最终的立法共识，英国政府召开全球首个AI安全峰会并建立专门的AI安全研究所推进AI 此外，随着大模型的加快发展，AI安全和治理领域的国际合作将迎来新的阶段，迈向更加务实的方向，确保AI技术的开源开放和普惠发展，同时有效管控全球性安全风险。
5.9K01编辑于 2024-01-29- 来自专栏机器学习入门
【AI大模型】LLM主流开源大模型介绍
学习目标 了解LLM主流开源大模型. 掌握ChatGLM、LLaMA、Bloom等基础大模型的原理 LLM主流大模型类别 随着ChatGPT迅速火爆，引发了大模型的时代变革，国内外各大公司也快速跟进生成式AI市场，近百款大模型发布及应用 目前，市面上已经开源了各种类型的大语言模型，本章节我们主要介绍其中的三大类： ChatGLM-6B：衍生的大模型（wenda、ChatSQL等） LLaMA：衍生的大模型（Alpaca、Vicuna 闻达：大型语言模型调用平台，基于 ChatGLM-6B 实现了类 ChatPDF 功能 LLaMA模型 LLaMA（Large Language Model Meta AI），由 Meta AI 于2023 BLOOM模型 BLOOM系列模型是由 Hugging Face公司的BigScience 团队训练的大语言模型。
1.3K10编辑于 2024-09-24 - 来自专栏量子位
AI的大模型时代 ≠ 只有大模型的AI时代
从这个规律来看，大语言模型（简称LLM）出现后虽然霸占了所有与AI相关的关键词，吸引了所有人的注意力，但这并不代表“LLM之前无AI”。 所以，AI不是只有大模型。AI的大模型时代也 ≠ 只有大模型的AI时代。 成熟的AI，早就已经上岗了 或许你还不敢相信，现在哪怕小小的快递背后，都已经有AI技术在加持了。 再如机场，在AI技术加持下的摄像头，也可以细粒度识别航空器、车辆、人员，以及违边等情况，这样便对飞行区域的安全提供了一定的保障。 最后在安全方面，英特尔也是做到了“鱼与熊掌兼得”：基于英特尔®️ SGX/TDX的可信执行环境（TEE）可为大模型提供更安全的运行环境，还不需要拿性能做交换。 更多《英特尔平台上的行业AI实战与大模型优化》相关内容，可扫描下方海报中的二维码获取。点击原文链接，阅读英特尔《最“in”大模型》专栏的所有文章。 — 完 —
73510编辑于 2023-09-27 - 来自专栏网络安全
恶意AI大模型的兴起将改变网络安全
这些模型可以生成令人信服的网络钓鱼电子邮件、传播虚假信息并制作有针对性的社会工程消息。所有这些非法功能都对在线安全构成了重大威胁，并加剧了区分真实内容和恶意内容的挑战。 AI 使初学者能够应对网络威胁，而黑暗 LLM 的兴起则对高级安全框架提出了挑战。恶意的 LLM 使用 OpenAI 的 API 来制作不道德的 ChatGPT 版本，且不受限制。 WormGPT：WormGPT 完全基于 2021 GPT-J 模型，该模型在创建恶意软件的网络犯罪方面表现出色。该模型的独特功能包括无限字符、聊天记忆和代码格式。 它通过多个 AI 模型优先考虑隐私、快速响应和动态使用。DarkBARD：DarkBARD AI 是 Google 的 BARD AI 的恶意版本，在网络犯罪方面表现出色。 威胁行为者还部署深度伪造、虚假信息、AI 僵尸网络、供应链攻击、数据中毒和高级密码猜测，以实现复杂的策略。来自恶意 LLM 的高级网络威胁激增，需要对网络安全进行批判性的重新评估。
40410编辑于 2024-09-28 AI大模型安全评测系统：给智能“大脑”装个“安全检测仪”
如今AI大模型就像走进日常生活的“智能大脑”，能写文案、答问题、做决策，但这个“大脑”会不会说胡话、泄露隐私、被坏人利用？ 这就需要AI大模型安全评测系统登场——它就像给智能“大脑”做全面安全体检的专业设备，用技术手段守住AI应用的安全底线。可能有人会问，这“安全检测仪”到底靠什么工作？ 简单说，没有这个安全评测系统，大模型的应用就像开没有刹车的汽车，随时可能出问题。值得一提的是，这个系统不是“一测了之”，还会输出详细的“安全体检报告”，明确指出大模型的风险点和改进方案。 总之，AI大模型安全评测系统是平衡大模型能力与安全风险的关键技术支撑。它用专业的技术手段，让智能“大脑”在发挥能力的同时，守住安全底线，也让我们在享受AI便利的同时，多了一份安心。 随着AI技术的不断发展，这个“安全检测仪”也会持续升级，成为AI产业健康发展的重要保障。
69410编辑于 2025-12-10- 来自专栏人工智能极简应用
【AI大模型】Transformers大模型库（八）：大模型微调之LoraConfig
一、引言 这里的Transformers指的是huggingface开发的大模型库，为huggingface上数以万计的预训练大模型提供预测、训练等服务。 你可以直接使用一个框架训练你的模型然后用另一个加载和推理。 LoRA是一种用于微调大型语言模型的轻量级方法，它通过添加低秩矩阵到预训练模型的权重上来实现适应性调整，从而在不显著增加模型大小的情况下提升特定任务的性能。 task_type: 指定任务类型，如'CAUSAL_LM'，以确保LoRA适应正确应用到模型的相应部分。 get_peft_model(model, config) print_trainable_parameters(model) 三、总结 本文简要介绍LoraConfig的配置参数情况，具体的机遇peft对大模型进行微调后面单独开一页详细讲解
1K10编辑于 2024-08-13 - 来自专栏腾讯云TVP
大模型时代，安全如何洗牌？
3 月 30 日，「大模型时代：安全如何洗牌」TVP AI 与安全高峰论坛将在北京启幕。论坛汇聚安全领域的顶尖专家和行业领袖，直击大模型时代安全领域的真问题、硬挑战。 精彩亮点抢先看 直击AI与安全热点，议题全面多元 本次论坛聚焦大模型时代下 AI 与安全的热点话题，上午场围绕 “AI 赋能安全”，深入探讨 AI 如何推动安全能力升级，解析大模型赋能带来的新机遇。 前沿引领与思想碰撞，探索安全新未来 本次论坛从安全领域大模型构建到 AI 治理体系，覆盖 AI 赋能安全场景、AI 内生安全与应用安全等核心议题。 即可报名，快来线上和顶尖大咖一同交流，共同探寻属于大模型时代的安全新图景。 我们希望通过本次「大模型时代：安全如何洗牌」TVP AI 与安全高峰论坛，携手行业顶尖专家，在思想碰撞中预见未来，在价值对齐中锚定航向，共同绘制 AI 与安全共生的新蓝图。
38510编辑于 2025-03-24 零基础学AI大模型之读懂AI大模型
大模型知识，因此希望可以通过自己学习然后以写文章的形式向大家同样想零基础学习大模型的同学进行互相交流，欢迎大家在评论区打出自己的疑问或者本文不正确的地方，我们一起学习 零基础学AI大模型之读懂AI大模型 甚至企业里说的“开发大模型”，真的是从头造一个“大脑”吗？ 今天就用通俗的语言，把AI大模型的核心逻辑、能力边界和落地场景讲透，最后再给大家一份主流模型的选择指南。 一、什么是AI大模型？ 这时候，AI智能体（Agent） 才是大模型的“落地形态”。 ，否则会违反数据安全法规（比如《数据安全法》），导致信息泄露。 企业真正要开发的是AI智能体：大模型的“升级版” 所谓“AI智能体（Agent）”，是给大模型加上“手脚”“记忆”和“规划能力”，让它从“聊天工具”变成“能干活的助手”。
1.5K20编辑于 2025-12-22- 来自专栏人工智能极简应用
【AI大模型】Transformers大模型库（一）：Tokenizer
一、引言 这里的Transformers指的是huggingface开发的大模型库，为huggingface上数以万计的预训练大模型提供预测、训练等服务。 Transformers 提供了数以千计的预训练模型，支持 100 多种语言的文本分类、信息抽取、问答、摘要、翻译、文本生成。它的宗旨是让最先进的 NLP 技术人人易用。 Transformers 提供了便于快速下载和使用的API，让你可以把预训练模型用在给定文本、在你的数据集上微调然后通过 model hub 与社区共享。 你可以直接使用一个框架训练你的模型然后用另一个加载和推理。 本文重点介绍Tokenizer类。 **编码**：将tokens转换为数字ID，这些ID是模型的输入。每个token在词汇表中有一个唯一的ID。 4.
1.9K12编辑于 2024-08-13
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号