- 综合排序
- 最热优先
- 最新优先
精调模型，获得自己的翻译姬
随着大模型技术的发展，个人/业务获取自己专属的翻译模型，精调专属词汇已经变的越来越容易，本文旨在记录精调并使用模型步骤以及遇到的坑模型选型选取了一个专门用作翻译的小模型:MarianMThttps:// tokenizer.decode(outputs[0],skip_special_tokens=True)print(translated_text_from_text) 首次执行时会下载模型到本地，此时模型还是未经过精调过的精调模型确认 WANDB_PROJECT=distil-marianexport BS=64export GAS=1#export m=/mnt/models/models/opus-mt-zh-en #如果不是重新开始精调 /test_data/zh_eng # 这是用于精调的数据位置torchrun finetune_trainer.py \ --tokenizer_name $m --model_name_or_path ，会被挡住进行精调bash train_distil_marian_enro.sh精调结束后由于指定的输出目录是--output_dir opus-mt-zh-en所以会在同级目录下生成一个模型使用精调后的模型
96610编辑于 2024-04-29精调模型削减文档AI成本90%
停止为你不会用到的人工智能付费：精调模型的价值每日通过GPT或Claude处理10,000份文档，年成本为5万美元。精调模型：5千美元。相同准确率。更低延迟。数据永不离开你的控制。 这就要求本地精调模型到位。精调模型真正胜出的地方差异体现在特定文档类型上，这些文档的模式复杂性和领域知识比通用智能更重要：医疗计费代码（ICD-10, CPT）。 基于历史索赔数据训练的精调模型能学到保险公司接受的确切模式。某机构记录表明，在历史临床数据和CMS-1500表单映射上进行精调，比前沿模型在代码选择精度上有可衡量的提升。 基于合同数据库训练的精调模型能识别这些模式。前沿模型将其视为普通文本。某法律助手构建于GPT-4之上，但专门针对法律语料库进行了精调。 文档类型差异巨大，以至于维护多个独立的精调模型不切实际。这些场景看重能力广度而非单次推理成本。切换到本地部署的精调模型当： 工作流是高容量、固定模式的提取。应付账款自动化中的发票处理。
11110编辑于 2026-04-09- 来自专栏从流域到海域
NEFTune: 通过简单的噪声提升指令精调效果
NEFTune指的是Noise Embedding Finetuning（噪声嵌入精调），提出自论文：NEFTune: NOISY EMBEDDINGS IMPROVE INSTRUCTION FINETUNING
85420编辑于 2023-11-17 腾讯云传媒大模型精调：基于TI平台的百亿千亿参数模型训练与RAG+FT协同方案
二、 构建“RAG+FT”协同的精调技术体系 混合方法论： 针对传媒场景，采用综合手段结合RAG（检索增强生成）与FT（微调）。 RAG专注于利用外部动态知识源，确保信息实时性并抑制幻觉；FT（Supervised Fine-tuning）则基于特定领域数据更新模型权重，强化模型对特定写作风格和术语的理解。 应用效果： 通过精调，模型能够生成具有口语化风格（如“接下来，让我们一起看看这一事件的详情”）且逻辑连贯的文本，解决通用模型过于书面化的问题。 灵活性与安全性： 支持丰富的基底模型选择及灵活的私有化部署；通过RAG技术确保动态数据的实时检索与透明度，结合FT技术确保领域知识的深度融合，兼顾服务专业性与数据安全性。
300编辑于 2026-05-31- 来自专栏Elastic Stack专栏
Elasticsearch RAG案例：混合搜索的相关性调优
我们在上一篇文章《Elasticsearch案例：百行代码实现腾讯ES帮助文档的RAG》中给大家介绍了如何通过一个完整的搜索解决方案来快速实现 RAG ，其重点落在效率上 —— 完整而便捷的解决方案套件 ，使我们整个RAG的构建和上线过程事半功倍。 就像之前说的，真正的理解什么是RAG并不容易，实现RAG就更难。现状是大多数时候用户会简单地把实现RAG理解为在企业中加入一个向量数据库。 但RAG是一个复杂的概念，它不仅仅是一个向量数据库，实现RAG需要对业务场景有深入的理解，并且需要进行大量的数据处理和算法优化，用户的行为的理解和反馈也是最终效果达成的重要关键。 能力的学习，我们可以非常方便地从各种渠道获得帮助，以对查询进行调优，这一点，对于我们的技术选型至关重要，也对最终项目的成败至关重要。
5.2K93编辑于 2023-11-16 - 来自专栏cwl_Java
JVM性能调优-Serial收集器内容精讲
简介：serial垃圾收集器讲解 是什么 收集算法是内存收到的⽅法论，垃圾回收器是内存回收的具体实现。 Serial是⼀个单线程的垃圾收集器 serial垃圾收集器的特点 “Stop The World”，它进⾏垃圾收集时，必须暂停其他所有的⼯作线程，直到它收集结束。在⽤户不可⻅的情况下把⽤户正常⼯作的线程全部停掉 使⽤场景：多⽤于桌⾯应⽤，Client端的垃圾回收器 桌⾯应⽤内存⼩，进⾏垃圾回收的时间⽐较短，只要不频繁发⽣停顿就可以接受
41610发布于 2019-12-20 - 来自专栏小七的各种胡思乱想
RAG之借助LLM优化精排环节
RAG的部分我们之前讨论过信息召回的多样性，信息密度和质量，主要集中在召回，融合，粗排的部分。这一章我们集中看下精排的部分。粗排和精排的主要差异其实在于效率和效果的balance。 粗排模型复杂度更低，需要承上启下，用较低复杂度的模型，在大幅度缩小召回候选量级的基础上，和精排的排序一致性做尽可能的对齐，保证精排高质量内容不被过滤。 而精排模型复杂度更高，可以使用更复杂的模型来尽可能地拟合最终的目标排序。在RAG任务中，最终目标就是候选内容可以回答问题，客观评估就是推理引用率。 在RAG的排序模块，也有多篇论文针对排序目标和样本的标注方式使用以上的不同方案进行了尝试，以下方案均可以直接使用大模型做精排，也可以使用大模型来构建微调样本训练小模型~ PointWise HELM：Holistic 以及是不是看着很眼熟，和之前在LLM Agent之再谈RAG的召回信息密度和质量中提到的长文本压缩方案的LongLLMLingua是一个思路。
1.1K21编辑于 2024-09-26 - 来自专栏cwl_Java
JVM性能调优-ParNew收集器内容精讲
ParNew 收集器其实就是 Serial 收集器的多线程版本，除了使⽤多条线程进⾏垃圾收集之外，其余⾏为包括 Serial 收集器可⽤的所有控制参数（例如：-XX: SurvivorRatio、-XX:PretenureSize’ Threshold、-XX: HandlePromotionFailure 等）、收集算法、Stop The World、对象分配规则、回收策略等都与 Serial 收集器完全⼀样，在实现上，这两种收集器也共⽤了相当多的代码
91920发布于 2019-12-20 腾讯云工具指南|08期：AI技术派 RAG 技术应用与实践
, #知识引擎, #AI代码助手, #精调大模型, #多模态大模型, #RAG 第二章：报告背景和目标 在AI时代，数据已成为企业核心竞争力，但增量数据多呈现非结构化且格式繁乱，传统OCR与数据库管理难以满足大模型对高质量结构化数据的需求 本报告旨在展示腾讯云如何通过RAG（检索增强生成）技术，结合向量化、多模态处理及精调大模型，解决企业在文档解析、检索优化及阅读理解中的痛点，从而激活数据价值并提升行业应用效能。 结构化数据检索 如何让大模型理解长文本——RAG实践中的阅读理解技术优化 消除大模型ToB场景幻觉的四种解法 腾讯云精调大模型的四个应用场景 如何让大模型看懂图片/视频——RAG实践中的多模态问答 为什么需要多模态大模型 **精调大模型**：在腾讯混元基础上，针对金融、政务、教育等行业进行有监督精调，引入 **CoT思维链** 支持数值计算与逻辑推理，实现 **无内容拒答** 和 **来源引用**。 4. 第六章：为什么选择腾讯云 • 技术先进性与自研能力：腾讯云展示了在RAG全链路的自研技术实力，包括自研文档解析模型 DREAM、表格识别模型 GrabTab 以及基于混元底座的精调大模型。
3110编辑于 2026-05-30腾讯云：率先支持DeepSeek全系模型精调与推理
近日，腾讯云旗下TI平台宣布支持DeepSeek「全系模型」的企业级精调与推理，帮助开发者更好解决「数据预处理难」、「模型训练门槛高」、「在线部署及运维复杂」等问题。 目前，用户可以根据个性化需求，灵活使用两种精调模式：//模式一：直接精调满血版DeepSeek适用于希望直接对原始DeepSeek模型进行微调的用户，两步走即可完成精调。 ● 步骤二：一键发起模型精调在“大模型广场”或者“任务式建模”模块选择DeepSeek模型；选择步骤一中准备的数据路径，设置学习率、迭代步数等参数，即可发起训练任务。 支持全参和LoRA两种策略，供用户按需选择精调场景。//模式二：基于DeepSeek R1蒸馏其他较小尺寸模型适用于希望以更低成本、更高响应速度应用R1的用户。 三步走迅速实现精调。● 步骤一：部署DeepSeek-R1推理服务在腾讯云TI平台的在线服务模块部署 DeepSeek R1推理服务，体验对话效果。
81510编辑于 2025-02-20腾讯云全栈接入DeepSeek：构建从免部署API到企业级精调部署的业务落地闭环
构筑多层级DeepSeek接入矩阵与业务对接方案 针对不同技术储备的开发者与企业需求，腾讯云提供从API直调到私有化部署的全栈技术方案，覆盖应用搭建、模型精调与RAG（检索增强生成）基础设施建设。 TI平台企业级精调与部署（面向实战AI开发） 提供一站式生产级大模型精调工具链。 精调资源与效率量化 满血版模型一键全参SFT精调效率极高：在使用 256卡 H20 算力集群下，仅需 8小时 即可完成。 蒸馏后模型（全参+LoRA双模式）精调门槛大幅降低：最低仅需 1卡 A10 即可完成微调。 RAG架构运行成本与并发指标 腾讯云向量数据库提供 99.99% SLA（服务可用性）的免运维服务。 通过整合底层自研的高性能计算集群（HCC）、白盒化的TI精调平台以及国产自研的OLAMA向量检索引擎，该方案从算力、模型到调用接口实现了完全自主可控。
25410编辑于 2026-04-08腾讯云大模型构筑传媒新质生产力：从内容生成到智能服务的全链路升级
部署传媒垂直大模型与AIGC工具链 腾讯云智慧传媒基于腾讯云行业大模型，结合检索增强生成（RAG）技术，提供针对传媒场景的精调模型与开发工具。 知识增强（RAG）： 导入媒体自有知识库（支持Word、PDF、表格、图片解析），通过向量数据库与精调训练，实现拟人化对话与精准问答。 量化业务指标与服务效能 基于大模型及RAG技术的应用，在内容生产与咨询服务场景中实现了具体的效率提升： 服务响应： 基于RAG构建的政策咨询平台实现1秒内响应，提供7*24小时不间断服务。 合规产出： 通过专属精调模型与媒体向量数据库匹配，解决通用模型生成视频风险大的问题，确保内容安全。 4. 交互升级： 支持外挂RAG的智能数字人IP，具备强意图理解与多轮交互能力，解决传统数字人“乱答”与“拒答”痛点。
800编辑于 2026-05-31腾讯云TI-ONE：面向实战的大模型精调推理平台
一、产品定位与核心亮点 腾讯云TI-ONE是腾讯云推出的大模型开发平台，核心定位为面向实战的企业级精调推理平台。 该平台通过提供完整的工具链和强大的技术内核，帮助企业用户高效完成大模型的精调与部署，构建高质量AI基座。 产品应用场景 目标用户：具备一定算法知识和开发能力的AI工程师 业务场景与痛点： 启动阶段： 痛点：不知如何基于R1蒸馏模型进行开发；开源框架繁多，选择困难 解决方案：内置蒸馏方案开箱即用，内置全系模型一键精调 层机制保障减少中断 方式齐全的模型评测：可即时发起的模型效果检验，3阶段评测全面覆盖 易用可靠的模型部署：可自动弹缩的分布式部署，稳定支持高并发 强大内核： 模型支持：内置主流开源大模型，DeepSeek全系模型支持精调部署 Instruct模型可在现有REACT框架下无痛升级 在复杂指令遵循任务中表现优异，综合得分达到0.699（基准模型为0.544） 总结 腾讯云TI-ONE平台通过完整的企业级工具链和强大的技术内核，为大模型精调部署提供全流程解决方案
3810编辑于 2026-05-30- 来自专栏Datawhale专栏
RAG 作者：RAG 已死，RAG 万岁！
一个具有更大上下文窗口的新模型问世，社交媒体上便会充斥着“RAG 已死”的宣言。 RAG 的初衷 五年前，我在 Meta 基础人工智能研究中心（FAIR，前身为 Facebook 人工智能研究中心）的团队提出了 RAG（Retrieval-Augmented Generation，检索增强生成 底线是：您同时需要长上下文 LLM 和 RAG。 但既然“RAG”这个术语似乎如此具有争议性，那我们不妨这样说： 我们不必非得称之为 RAG。 我们可以就叫它 检索 (retrieval)。 RAG 提供了相当于直接翻到相关页面的能力。处理更多 token 不仅更慢，而且极其低效，并且比使用 RAG 精准定位所需信息要昂贵得多。 RAG、微调和大型上下文窗口在 AI 中也是如此。 结论 我们不需要在 RAG 与长上下文窗口、微调或 MCP 之间做出选择。
78410编辑于 2025-04-24 - 来自专栏全栈开发工程师
【RAG】001-RAG概述
【RAG】001-RAG概述 0、整体思维导图 下面的知识是基于一个视频教程结合 AI 生成的笔记，我也看了一遍，有了一些印象，但这种印象很快就会消失，知识也就消失了，为了使得知识在我的大脑中停留更长的时间 补充1：RAG 基本逻辑 补充2：RAG 知识库基本逻辑 一、RAG 介绍 1、LLM 的主要局限性 大语言模型（LLM）尽管功能强大，但仍存在以下明显的局限性： 时效性问题：模型的知识在预训练后就固定了 概述 1、RAG 的概念 RAG（Retrieval-Augmented Generation，检索增强生成）是一种结合了检索和生成技术的文本处理方法，主要用于提高语言模型的输出质量。 2、RAG 的工作原理 RAG 的核心工作流程包含以下步骤： 知识库构建： 收集和处理文档资料 将文档切分为适当大小的文本块 使用向量化模型将文本转换为向量并存储 检索过程： 接收用户查询并向量化 质量提升 文本分块策略： 重叠分块 动态块大小 语义完整性保证 相关性优化： 多轮检索 结果重排序 相关度阈值控制 3.3 响应速度 并行处理： 批量向量化 并行检索 异步处理 资源调优
81910编辑于 2025-03-25 腾讯云TI平台以精调技术攻克大模型行业落地难题
提供大模型精调全生命周期解决方案 腾讯云TI平台构建了覆盖模型选型、数据准备、训练共建到应用联调的一体化方法论。 该方案通过平台化工具链，将复杂的精调过程简化为可配置、可监控的标准流程。 实现训练效率与模型性能的显著提升 平台通过自研技术实现了关键指标的优化。 在模型性能上，针对特定行业数据精调后的10亿参数行业大模型，其任务性能可媲美千亿参数通用模型，极大降低了训练资源需求。
700编辑于 2026-05-31腾讯乐享智能问答技术架构与产品能力解析
其核心商业差异化卖点在于剥离了单纯的对话机器人属性，将精调RAG（检索增强生成）技术与企业内部的严格权限管理、全流程知识管理深度耦合。 功能框架 产品依托精调RAG技术，构建了从数据接入、意图识别、向量计算到大模型生成的完整知识萃取链路，其核心架构涵盖预处理、检索优化（检索前与检索后）及提示工程生成环节。 2. 深度的精调RAG技术链路（知识萃取更精准）： 文件预处理：对多格式原始文件进行标准化处理。 检索前优化：内置提问扩写、多轮改写、意图识别机制，精准锁定用户需求。 生成优化：结合提示工程与精调大模型，最终输出高质量问答。 4. 荣誉背书 说明：提供的参考材料全文未涉及任何技术荣誉和奖项背书。
900编辑于 2026-05-31- 来自专栏多模态 / RAG / 知识图谱
RAG 系列 01 — Naive RAG
但他过去半年90%的精力都花在了换模型、调prompt上。这不是他一个人的故事。这是2023-2025年我见过的至少30个RAG项目共同的剧本。 2.2Chunking：所有"后面调不动"的根源，80%在这里如果说RAG工程里有一件事被严重低估、又决定一切的，那就是chunking。 四、雷4+雷5：检索阶段的两个隐藏炸弹4.1雷4：Top-K不是越大越好很多人遇到"召回不准"的本能反应是"把k调大"。这是错的。 70%→问题不在k，在retriever本身#如果hit@3>90%但answer不好→问题在generation#k的上限经验：#-没有reranker：k≤5#-有reranker：粗排k=50，精排 继续在Naive阶段调没用，去升级。
29822编辑于 2026-05-23 RAG性能调优实战入门：从延迟高、回答飘到响应快、答案准
然而，许多团队在初次部署RAG系统后，常面临“回答不准”“响应太慢”“结果飘忽”等问题——这并非RAG本身不行，而是缺乏对性能关键环节的系统性优化。 本文将带你从零开始，掌握RAG应用性能优化的核心思路与实用技巧，助你打造一个响应快、答案准、体验稳的生产级RAG系统。一、理解RAG的性能瓶颈在哪里？ 向量数据库调优建立高效索引：HNSW（近似最近邻）适合高维向量，支持低延迟检索；设置相似度阈值：过滤低相关性结果（如 cosine < 0.4 的 chunk 直接丢弃）；启用元数据过滤：按文档类型、时间 结语：RAG不是“搭完就跑”，而是“精调细耕”RAG的真正价值，不在于快速搭建原型，而在于通过数据、算法、工程三位一体的持续优化，让系统在真实业务场景中稳定输出高价值答案。 未来，随着多模态RAG、图增强RAG、Agent+RAG等新范式涌现，底层优化逻辑依然相通——精准检索 + 清晰上下文 + 可控生成 = 可信赖的智能回答。
92410编辑于 2026-01-24AI原生驱动资本市场数智变革：腾讯技术方案与量化成效
为核心，提供ToB+ToC AI原生生态连接方案，聚焦三大产品与技术支柱： 核心产品矩阵： 腾讯元宝：双模驱动用户显著增长，新增图片/多文件解析/代码生成能力，打通微信生态个人知识库，依托腾讯独家RAG 智能体工程能力：通过RAG外挂知识库（含复杂表格解析、语义切分、召回优化）、Prompt工程（指令精简、任务拆解）、模型精调（领域专家模型、数据配比优化）提升智能体“能用→好用”转化。 案例三：头部券商AI代码助手提效 覆盖1000+研发人员，通过开放式架构（工程感知、编码辅助、代码大模型能力）、规则沉淀（如公共函数加GoDoc注释）、数据集清洗与模型精调，实现研发活跃度70%、代码采纳率 独家优势：腾讯独家RAG能力支持多场景问答与多文件格式；TCADP智能体开发平台实现快速应用构建；混合云智算架构实现存算解耦、一云多算（异构算力）、训推混合。 工程化能力：通过RAG优化（复杂表格解析、语义切分）、Prompt工程（指令精简、任务拆解）、模型精调（领域专家模型）构建“好用”智能体。
26420编辑于 2026-04-21
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号