- 综合排序
- 最热优先
- 最新优先
- 来自专栏CSDN小华
生成式人工智能
生成式人工智能 定义 生成式人工智能是一种机器学习技术，它的核心目标是从输入数据中学习并生成新的、具有特定特征的数据。这种生成可以涵盖多种形式的内容，如文本、图像、音频和视频。 生成式人工智能（AI）在数据隐私和安全方面面临的主要挑战主要包括以下几个方面： 数据收集与处理的隐私问题：生成式人工智能需要大量不同类型的的数据，通常包括敏感的个人信息。 公众教育与意识提升：通过教育和宣传，提高公众对生成式人工智能潜在风险的认识，增强其辨识和防范能力。 生成式人工智能如何在医疗保健领域帮助设计新药物？ 在金融行业中，生成式人工智能如何优化工作流程和提升服务质量？ 在金融行业中，生成式人工智能（AI）通过多种方式优化工作流程和提升服务质量。 中国是最早一批对生成式人工智能进行监管的国家之一。2023年，中国颁布了相关规定以迎接生成式人工智能的监管挑战。
92010编辑于 2024-10-16 生成式人工智能与大模型概述
1.2生成式人工智能与大语言模型架构生成式人工智能（GenerativeArtificialIntelligence，AIGC）是人工智能技术的重要分支，指基于深度学习、生成对抗网络（GAN）、变分自编码器 关键内容包括：生成式（Generative）预训练（Pre-trained）转换器（Transformer）图1.3GPT模型引导生成式人工智能生成式人工智能的发展可追溯至2014年IanGoodfellow 当前，生成式人工智能已广泛应用于多个领域。典型应用场景如图1.4所示，主要包括文本生成、图像生成、音频与语音生成、视频生成与编辑等。 总之，生成式人工智能不仅是AI从感知智能向生成智能进化的标志，也正在成为各行业智能化升级与知识重构的重要驱动力。 图1.4生成式人工智能应用场景大语言模型（LargeLanguageModel,LLM）是当前生成式人工智能发展的核心技术，指在大规模文本语料上预训练的深度神经网络模型，具备自然语言理解、生成与推理能力
56710编辑于 2025-12-07- 来自专栏数据派THU
生成式人工智能如何改变创意工作
来源：Science AI本文约4400字，建议阅读10+分钟生成式AI模型有可能颠覆内容创作的世界。 企业的生成式 AI 模型有可能颠覆内容创作的世界，对营销、软件、设计、娱乐和人际交流产生重大影响。这些模型能够生成文本和图像：博客文章、程序代码、诗歌和艺术品。 这不是人类长期以来梦想和恐惧的「通用人工智能」，但在不经意的观察者看来可能就是这样。 什么是生成式人工智能？ 生成式人工智能已经可以做很多事情了。 与其他类型的生成式 AI 工具一样，他们发现提示越好，输出代码就越好。 会话应用程序 LLM 越来越多地被用于会话人工智能或聊天机器人的核心。 然而，未来可能需要更多的控制——尤其是当生成视频创作成为主流时。 生成式人工智能还提出了许多关于什么构成原创和专有内容的问题。
77440编辑于 2023-03-29 “生成式人工智能”大模型备案材料
截止至今全国已累计通过了有538款生成式人工智能服务完成备案，263款生成式人工智能应用或功能完成登记。一、什么情况下要做大模型备案？ 根据《生成式人工智能服务管理暂行办法》第十七条，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续 二、备案范围根据《生成式人工智能服务管理暂行办法》，以下情况需要进行大模型备案：①自主研发大模型、有语料具备舆论属性与社会动员能力的需要备案②调用第三方基座、有舆论属性与社会动员能力、并进行微调、有语料的需要备案
61410编辑于 2025-09-23- 来自专栏图灵人工智能
生成式人工智能何以能，何以不能
2024年初，Sora一经发布便引发热议，生成式人工智能再次成为大众关注的焦点。生成式人工智能是依托人工智能技术，依靠海量数据，通过预训练大模型等方法，自动生成各种类型的内容。 生成式人工智能的主要影响 生成式人工智能是基于算法、模型等技术，利用现有文本、图像、代码、音视频文件生成和创建新内容的信息技术。 生成式人工智能即人工智能生产内容，可用于代码生成、文本问答、图像和视频生成等。 生成式人工智能如何更好地应用于实践 为了促进生成式人工智能更好地发展和应用，释放新一代人工智能发展红利，需要从以下几个方面加快推进。 一是推进生成式人工智能技术创新。 适应生成式人工智能发展将是对经济社会发展产生重大变革创新的必然趋势，加快打造生成式人工智能网络平台，积极发展大模型服务，为生成式人工智能在数字经济、数字社会、数字政府中的广泛应用提供技术试验、模型训练、
31910编辑于 2024-03-18 - 来自专栏众森企服
生成式人工智能大模型备案办理指南
同年8月15日实施了《生成式人工智能服务管理暂行办法》，主要是针对提供生成式人工智能服务需要做大模型备案。 这样就形成了由算法备案制度和生成式人工智能备案（下称“大模型备案”）构成的“双备案制”的实践机制。 而大模型备案自《《生成式人工智能服务管理暂行办法》施行之日起仅有半年多，对于大模型备案的流程、规则以及安全评估相关的具体事项，企业相关的经验也相对较少。 下面，众森企服小编就来给大家详细讲解下生成式人工智能大模型备案办理指南。一、什么是大模型？大模型，即Foundation Models，通常是指具有大量参数和复杂结构的深度学习模型。 （6）评估测试题集：该测试题集需要包括生成内容测试题库、拒答内容测试题库、非拒答测试题库。测试题分类满足《生成式人工智能服务安全基本要求》中相关的风险类型，并有最小的数量要求。
6.9K41编辑于 2024-04-11 - 来自专栏DrugOne
Science | 生成式人工智能的科学和艺术
理解生成式人工智能的影响并就此做出政策决策需要对文化、经济、法律、算法以及技术和创造力的相互作用进行新的跨学科科学探究。 像这些历史类比一样，生成式人工智能并不是艺术衰落的先驱，而是一种具有独特特点的新媒介。 然而，与过去的颠覆不同，生成式人工智能依赖于由人类创建的训练数据。这些模型通过从现有的艺术媒体中提取统计模式来"学习"生成艺术作品。 生成式人工智能依赖于训练数据，这引发了关于作者权益的法律和伦理挑战，因此应促使对这些系统性质进行技术研究。版权法必须在创作者、生成式人工智能工具用户和整个社会之间取得平衡的利益。 人工智能生成的内容的爆炸式增长反过来可能阻碍社会在气候和民主等重要领域进行集体讨论和行动的能力。
54310编辑于 2023-09-19 - 来自专栏Elastic Stack专栏
生成式人工智能在公共部门的未来
公共部门中的生成式人工智能：当前状态 IDC的研究显示，59%的政府机构处于组织中使用生成式人工智能的初级阶段（相比之下，有16%的机构“大量投资”）。 规模化生成式人工智能需要安全和信任 尽管生成式人工智能的阶段充满希望，但领导者们也面临着数据隐私、员工满意度以及伦理和合规方面的担忧。 根据IDC的数据，43%的全球政府领导者担心生成式人工智能会危及他们对数据和知识产权的控制，41%的人担心生成式人工智能的使用会使他们面临品牌和监管风险。 （LLM） 保持数据在主权领土上 确保你拥有自己的加密密钥 以上所有考虑中，至关重要的是“人在回路”方法，它确保生成式人工智能的输出由人类进行错误信息的交叉检查，特别是考虑到生成式人工智能幻觉的潜在可能性 为了确保生成式人工智能的输出尽可能准确和及时，IDC和Elastic®都推荐使用检索增强生成（RAG）。
94010编辑于 2024-01-02 - 来自专栏云云众生s
DevOps团队主管的生成式人工智能指南
在过去的几年里，人们广泛讨论了生成式人工智能如何使 DevOps 从业者受益。生态系统中充斥着关于利用 GenAI 来加速几乎所有日常 DevOps 工作方面的讨论，从编码到软件测试再到文档生成。 一个受到较少关注的话题是 DevOps 团队经理（而不是从业者）如何使用生成式人工智能。 为什么以及 DevOps 团队如何使用生成式人工智能？ 简而言之，生成式人工智能已经成为提高生产力的重要因素——你甚至可以称之为 DevOps 工程师的结对程序员。 例如，他们可能不知道如何最好地用语言表达他们提供给人工智能的指令，以生成或解释代码。他们也可能难以识别人工智能生成的代码中的错误。
18810编辑于 2025-02-11 - 来自专栏资讯分享
生成式人工智能：发展演进及产业机遇
在生成式人工智能中，RNN可以用于生成文本、音乐等序列数据。 AIGC的产业应用中的挑战与问题1.可解释性与可靠性生成式人工智能的可解释性问题是指生成式人工智能（Generative Artificial Intelligence）所产生的结果难以解释或理解。 生成式人工智能是一种基于深度学习的人工智能技术，其通过学习大量数据来生成新的数据或图像。但是，生成式人工智能所产生的结果通常很难理解和解释，因为其内部的运作过程非常复杂，而且很难直观地描述。 解决生成式人工智能的可解释性问题是当前人工智能研究的一个重要方向，研究人员正在探索各种方法来使生成式人工智能的结果更加可解释和可理解。这些方法包括可视化技术、可解释性模型、对抗性样本等等。 因此，未来的研究应关注如何在保障技术创新的同时，解决这些潜在问题，以实现生成式人工智能的可持续发展。
1.2K21编辑于 2023-08-25 - 来自专栏FreeBuf
生成式人工智能是DevSecOps的福音还是噩梦？
在这篇文章中，我们将深入讨论生成式人工智能（Gen-AI）与DevSecOps可能擦出哪些「火花」，并从多个方面分析Gen-AI会给DevSecOps带来哪些影响。 CoderPad于1月份发布的一项针对13000多名开发人员的调查发现，67%的技术专业人士表示他们已经将人工智能作为工作的一部分，其中ChatGPT是首选工具，其次是GitHubCopilot（一种生成式人工智能开发工具 也许有一天，生成式人工智能可以从开发过程的初始阶段就被用来构建安全性，但根据我们的经验，目前没有任何工具能够生成具有安全性、性能、稳定性和一定规模的生产级代码，所有这些都是我们需要考虑的与我们业务相关的因素 Netskope首席信息安全官James Robinson认为：「尽管存在潜在的缺陷，但利用Copilots等生成式人工智能工具最终将使开发人员能够编写出缺陷和漏洞更少的代码。 2、强化培训与意识：教育开发者关于正确使用生成式AI工具的重要性，包括避免泄露敏感信息、理解输出结果可能存在的潜在错误，并提倡审慎审查AI生成的代码。
38110编辑于 2024-06-14 - 来自专栏云云众生s
污染源头及其他生成式人工智能风险
控制数据源头，避免第三方或 AI 生成内容，维护平台信任根基，打造更安全的云原生环境。 这样，AI 生成的版本可能看起来不同，但可以基于相同的内容。副本会尽可能快速和自动地制作出来，然后在未经署名的情况下发布。有时，这些视频被归类为原始视频的“摘要”，这仍然是一个灰色地带。 在生成文档时，避免发布看起来凭空产生的冗长声明。小的互连文档更容易控制，也更容易确定来源。将你的所有沟通都想象成树上的叶子和树枝；是更重要事物的一部分。 减少自由表达可以减少有风险的生成数据。大多数带有聊天频道的直播游戏网站都会仔细删除脏话，但有些网站根本不支持用户之间的任何口头交流——或者高度匿名化。 同样，软件平台应该严格控制其公共数据，并避免第三方或 AI 生成，直到它们变得更加成熟。 AI 生成的问题之一是该领域正在发展，没有人可以预测接下来会出现什么可能令人震惊的能力。
27310编辑于 2025-03-17 生成式人工智能（大语言模型）上线备案表
其中发并发服务能力也是一个比较难填写的部分，网信办会根据你填写的数据实际测试你的模型，若填写偏高或偏低，网信办会质疑你的实力和大模型生成内容的安全性，一般我们都是根据客户模型的实际情况，给出一个合理的范围让客户填写
85601编辑于 2025-03-28生成式人工智能（大语言模型）安全评估要点
#生成式人工智能##大模型##安全评估##aigc##备案##大模型备案#一、语料安全评估（一）评估内容1.文本训练语料规模2.各类型语料规模3.训练语料来源4.语料标注数量5.标注人员情况6.标注规则 7.标注内容准确性核验8.语料合法性二、模型安全评估1.语料内容评估2.生成内容评估3.涉知识产权、商业秘密的评估4.涉民族、信仰、性别等评估5.涉透明性、准确性、可靠性等的评估三、安全措施评估1.模型适用人群
57210编辑于 2025-08-19- 来自专栏生成式人工智能
人工智能（AI）入门篇：什么是人工智能？什么是生成式人工智能？
本文旨在深入剖析人工智能与生成式人工智能的本质、发展历程、核心特性及其对社会的影响，同时引入生成式人工智能认证的重要性，为读者提供一个全面而深入的理解框架。一、什么是人工智能？1. 二、什么是生成式人工智能？1. 生成式人工智能的定义生成式人工智能是AI领域的一个新兴分支，它专注于创造新的内容或数据，如文本、图像、音频等。 数据增强：生成式AI能够生成更多的训练数据，提升模型的泛化能力，为机器学习领域提供有力支持。三、人工智能与生成式人工智能的关系1. 技术基础生成式人工智能是人工智能的一个子领域，它基于人工智能的基本技术和原理，如深度学习、机器学习等。因此，人工智能的发展为生成式人工智能的崛起提供了坚实的技术基础。2. 相互影响人工智能和生成式人工智能在发展过程中相互影响、相互促进。一方面，人工智能的进步为生成式人工智能提供了更强大的算法和模型；另一方面，生成式人工智能的成功应用也推动了人工智能技术的不断发展和完善。
3K21编辑于 2025-04-05 - 来自专栏DrugOne
JACS | 生成式人工智能作为分子设计的新兴范式
科学方法的价值是不可否认的；然而，它往往导致所谓的Edisonian式研究方法，其中通过人为引导的试错实验来进行系统性改进。需要强调几个关键点。 最常被吹捧的是，Edisonian式研究缺乏解决具有大化学空间的复杂挑战所需的效率。这是出于设计的不足。传统的科学方法始终牢记最终的分子、材料或性质，但表征直到工作流程的几个步骤之后才发生。 相比之下，生成模型利用输入和目标的联合概率：p(x,y)。生成建模的总体思想是实施一个能够生成可能具有指定 {y} 的新分子或材料的系统。 有效的逆向设计依赖于将化学物质的生成偏向目标，而生成模型是一个受到广泛关注的策略。从概念上讲，生成化合物的新颖性受制于生成机制而不是人类化学家。 这个观点的目标不是讨论实施生成模型的细节。然而，值得评论的是，发展和应用生成模型的困难不应被低估。 深度生成模型 生成模型方法多种多样，内部机制各异。
83630编辑于 2023-09-09 生成式人工智能“大模型备案”需要什么材料?
是否支持拒答是否容易被诱导输出违法违规内容是否对图片/文本内容进行安全拦截训练语料来源是否合规，个人隐私保护3.模型服务协议就是用户使用你模型时必须同意的协议(如用户协议、隐私政策)内容要涵盖用户使用范围、禁止事项模型生成内容的免责声明数据采集及使用声明用户信息处理规则
56110编辑于 2025-09-08- 来自专栏架构驿站
一文带你走进 AIGC（生成式人工智能）世界
这种变革的前沿便是 AIGC（生成式人工智能）的概念，简而言之，通过一种能够生成大量与人类生成的内容在质量上相媲美的创意内容的人工智能。 — 01 — AIGC（生成式人工智能）历史背景点滴 随着科技的创新性发展，机器学习的力量与无限的想象力无缝地融合在一起，使得 AIGC（生成式人工智能）像雨后春笋般地进入了计算机科学的领域，以创造具有人类品质的非凡艺术 AIGC（生成式人工智能）有能力释放我们的想象力，将新的创意带入现实生活中。 — 02 — 什么是 AIGC（生成式人工智能）？ AIGC（生成式人工智能）是指一类人工智能系统，其能够生成新的内容、图像、音频或文本等。与传统的任务导向型人工智能系统不同，生成式人工智能更加注重创造性和自主性。 — 03 — AIGC（生成式人工智能）基础架构 AIGC（生成式人工智能）架构是指用于构建和部署生成性人工智能模型的整体结构和组件。
3.5K90编辑于 2023-11-03 - 来自专栏腾讯研究院的专栏
抓住机遇，积极应对生成式人工智能挑战
今天，生成式人工智能的快速发展，又一次将我们带到划时代的机遇和挑战面前。 生成式人工智带来多重挑战 生成式人工智能带来数字经济发展的新挑战。 在生成式人工智能的帮助下，工作效率可以显著提高。 生成式人工智能带来就业的新挑战。从纺织机、内燃机到计算机的出现，新技术的引入往往使部分劳动者失去工作，生成式人工智能很大程度上也会产生同样影响。 生成式人工智能带来科技创新的新挑战。生成式人工智能的大模型对算力、算法和语料有很高要求，一定程度上凸显了我国在算力、算法和高质量语料等方面的短板。 尽管生成式人工智能带来诸多挑战，但每一项的挑战和改变，必然也意味着新的机会。我们应找准定位，不断寻找探索挑战中蕴含的发展机遇。 瞄准新赛道，发挥新优势。生成式人工智能模型训练高度依赖语料。
36810编辑于 2023-11-16 - 来自专栏生成式人工智能
生成式人工智能认证的理性思考：人工智能（AI）将深度改造行业？
四、生成式人工智能认证：紧跟技术前沿，掌握核心应用能力1. 生成式人工智能认证的背景与意义在AI技术快速发展的背景下，生成式人工智能（Generative AI）作为AI领域的一个重要分支，正逐渐展现出其巨大的潜力和应用价值。 生成式人工智能认证的内容与特点生成式人工智能认证的内容涵盖了生成式人工智能的基本原理、算法模型、应用场景等多个方面。 生成式人工智能认证的价值与影响生成式人工智能认证的价值不仅在于提升个人的技能和素质，更在于推动整个社会的科技进步和创新发展。 通过培养一批具备生成式人工智能核心应用能力的专业人才，可以为社会提供更多的创新动力和发展机遇。同时，该认证还可以促进生成式人工智能技术的普及和应用，推动相关产业的快速发展和升级。
31610编辑于 2025-04-05
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号