- 综合排序
- 最热优先
- 最新优先
大模型幻觉测试
大模型幻觉测试本方法为企业级可落地的全流程幻觉测试体系，融合学术界权威基准与工业界工程实践，覆盖从口径定义、用例设计、自动化执行、量化打分到归因优化的完整闭环。 2.忠实性幻觉测试：上下文与指令遵循度验证测试目标：检测模型在给定上下文时的越界发挥、指令偏离、摘要失真，是RAG场景的核心测试项。 ：TruthfulQA官方基准落地参考值：通用大模型≥70%为良好，垂直领域模型≥85%为良好业务落地补充指标整体幻觉率：出现幻觉的用例占总测试用例的比例幻觉率=幻觉用例数/总用例数分类幻觉占比：事实/ （自动化执行）统一prompt模板，固定模型参数（建议temperature=0.1，top_p=0.9），确保结果可复现通过API或CLI批量调用被测大模型，全量保存输入输出日志（问题、回答、模型版本 、格式校验工具自动判定模型层：事实性、忠实性幻觉，运行FactScore自动化流水线：拆解：用大模型将回答拆分为原子事实断言检索：从业务知识库/权威百科检索对应证据判定：用判别模型逐句判断证据是否支持断言打分
16710编辑于 2026-09-08- 来自专栏啄木鸟软件测试
大模型测试性能优化：测试专家必看
引言 随着ChatGLM、Qwen、DeepSeek、Llama系列等大语言模型（LLM）在金融、政务、医疗等关键场景加速落地，软件测试正面临前所未有的范式变革。 更严峻的是——大模型测试本身正成为性能瓶颈：单次Prompt-Response耗时数百毫秒至数秒，批量评估动辄数小时；RAG流水线需反复调用嵌入模型+向量检索+重排序+生成模型，端到端延迟陡增；而A/B 如何让测试‘跑得快、判得准、控得住’？本文从工程化视角，为测试专家梳理大模型测试性能优化的四大核心路径。 四、测试即代码（TaaC）：编排优化与资源感知调度 大模型测试不再是‘点一下Run’的黑盒操作。 结语 大模型测试的性能优化，本质是测试思维的升维：从‘验证输出是否正确’走向‘验证系统是否可持续交付高质量输出’。
62010编辑于 2026-03-04 - 来自专栏测试技术圈
LangSmith帮助测试大模型系统
LangSmith是评估大模型能力好坏的评估工具，能够量化评估基于大模型的系统的效果。LangSmith通过记录langchain构建的大模型应用的中间过程，从而能够更好的调整提示词等中间过程做优化。 LANGCHAIN_TRACING_V2：设置LangChain是否开启日志跟踪模式。 LANGCHAIN_API_KEY：就是上面生成的LangSmith的key。 为了测试我们依托讯飞星火大模型创建一个继承LangChain的CustomLLMSparkLLM的类（代码在6.2.1章节），依托对应的类我创建了如下的测试代码。 #! 在项目下的列表中，我们多次执行LangChain构建的大模型的应用也可以做横向对比。 每一次的处理和反馈的Trace都可以展示响应时间和使用的Token数。 LangSmith完成了跟踪LangChain构建应用的所有的中间过程，这也为验收或者测试LangChain构建的基于大模型的应用提供了有力的手段。
2.4K10编辑于 2024-04-30 - 来自专栏老张的求知思考世界
详解性能测试三大模型
从我的实践经验来说，如果无法对系统和业务有足够的了解，没有较为精准的性能测试三大模型，则性能测试的结果无法对线上容量规划起到明显的参考价值。 今天这篇文章算是性能测试知识的科普内容，我会聊聊在实际工作中开展性能测试，前期最核心的工作。即业务模型、流量模型和数据模型这三大模型，该如何评估和建立。 为了便于大家理解三大模型，我会以电商业务下单的场景来举例说明，如下图： 业务模型 大家可以将业务模型看作功能测试中的业务场景。 ； 构建流量模型 下面是之前我实际工作中一次双11大促时的流量模型构建案例，仅供参考。 预估大促时的支付转化率为60%，则可得：大促峰值订单支付QPS为（200/40%）*60%*（200W/50W）=1200QPS。
91810编辑于 2024-10-28 - 来自专栏啄木鸟软件测试
大模型测试：技术深度解析
这些案例揭示一个现实：大模型测试不是‘加个Prompt跑几轮’，而是一场融合认知科学、统计推断、对抗攻防与领域知识的系统工程。 一、为何传统测试方法在大模型面前失灵？ 二、大模型测试的四维技术框架 业界领先实践已形成可落地的四维测试体系： ✅ 1. 不同于通用榜单（如MMLU、HELM），专业团队需构建领域增强基准集——例如，为法律大模型定制‘法条援引准确性+判例类比合理性’双维度评分卡，并引入律师专家盲评作为黄金标准。 ✅ 2. 三、实战案例：某省级政务大模型的测试攻坚 该模型需支撑12345热线智能分派与政策解读。 未来三年，我们认为三个方向将重塑测试范式： （1）测试即服务（TaaS）平台兴起，提供开箱即用的幻觉检测、偏见审计API； （2）测试数据生成从人工编写迈向‘模型自生成—人工校验’闭环； （3）监管合规测试
44800编辑于 2026-06-15 三大领域大语言模型安全基准测试
TRIDENT：金融、医疗和法律领域的大语言模型安全基准测试随着大语言模型（LLMs）在法律、金融和医疗等高风险领域的部署日益增多，系统评估其领域特定安全性和合规性变得至关重要。 为填补这一空白，研究首先基于某机构医学伦理原则、某机构专业行为示范规则和某机构道德准则，定义了大语言模型的领域特定安全原则。 在此基础上，推出了Trident-Bench基准测试，专门针对法律、金融和医疗领域的LLM安全性进行评估。 研究在Trident-Bench上评估了19个通用型和领域专用模型，结果表明该基准能有效揭示关键安全漏洞：强大的通用模型（如某中心GPT、某中心Gemini）能够满足基本要求，而领域专用模型往往难以处理细微的伦理差异 代码和基准测试将在以下网址发布：https://github.com/xxx
45100编辑于 2025-09-04- 来自专栏机器之心
小米AI战略首次曝光，大模型开启测试，机器狗铁蛋2上线
机器之心报道 编辑：泽南 跨过高端化生死之战，小米现在要全面拥抱大模型。 没有料到，在未来战略上，小米把 AI 放到了如此重要的位置。 但在 CyberDog 2 上，我们看到了面向基础技术和应用的一系列创新，更重要的还有坚持。 大语言模型是如今国内外科技公司追逐的重要目标。 在这一方面，小米表示早在今年 4 月组建了自己的 Al 大模型团队，主力突破方向是轻量化本地部署。 昨天的发布会上雷军表示，小米 AI 大模型的最新版本 MiLM-1.3B 已经成功在手机本地跑通，部分场景可以媲美 60 亿参数模型在云端运行结果。 可见，小米的大模型研究重点在于落地和端侧运行。 结合大模型的对话特点，小爱的交互模型获得了升级，其原有的能力与大模型的强大通识能力进行了结合。 目前，AI 大模型版小爱同学已经开始邀请测试，首批支持的机型包含小米 12 系列和红米 K50 系列。
83430编辑于 2023-09-08 - 来自专栏啄木鸟软件测试
大模型性能优化测试实战指南
引言：当大模型从实验室走向生产，性能不再是‘能跑就行’ 随着LLaMA-3、Qwen2、GLM-4等开源大模型迭代加速，越来越多企业将大模型集成至客服系统、智能文档分析、代码辅助等核心业务场景。 本文基于我们在金融、政务、制造领域的真实测试案例，系统拆解大模型性能优化的测试方法论与实战路径，聚焦‘可测、可调、可证’三原则，拒绝空谈架构，直击工程落地痛点。 结语：性能优化是测试工程师的新护城河 大模型时代的性能测试，早已超越LoadRunner脚本编写。 在啄木鸟近期认证的‘大模型性能测试工程师’中，73%来自原SRE/算法工程岗——这印证了一个趋势：谁掌握性能验证闭环能力，谁就掌握大模型落地的最终话语权。 下一期，我们将发布《大模型可靠性测试白皮书V2.0》，涵盖混沌工程注入、对抗样本压力测试等前沿实践，敬请关注。
54010编辑于 2026-06-15 大语言模型基准测试框架解析
大语言模型基准测试框架解析某研究者近日在代码托管平台发布了针对大语言模型的新基准测试框架。 该框架包含从实际与大语言模型对话记录中提取的近100项测试，涵盖以下技术场景：将Python函数转换为等效但更快的C函数解释压缩后的JavaScript代码功能识别数据编码格式（如uuencode编码） ：LLMRun：向语言模型发送提示词ExtractCode：从模型输出提取代码块CRun/PythonRun：在隔离环境中执行代码SubstringEvaluator：验证输出包含预期字符串复杂测试场景框架支持多步骤交互测试 ：避免复杂的提示工程，测试原始问题解决能力可扩展性：允许用户轻松添加自定义测试用例结论该基准测试框架为实践者提供了评估大语言模型实用能力的工具，特别适用于：研究代码辅助能力评估编程任务解决能力测试特殊领域知识验证研究者强调该框架不适合学术基准使用 ，但鼓励开发者扩展测试用例以评估模型在特定领域的实用性能。
48210编辑于 2025-08-23- 来自专栏啄木鸟软件测试
开源方案：大模型测试实战指南
引言：当大模型从实验室走向产线，测试不再是‘锦上添花’，而是‘安全底线’。 更值得关注的是，头部企业正悄然转向开源测试工具链——不是因为预算限制，而是因其透明性、可审计性与快速迭代能力，恰好匹配大模型‘黑盒深、行为动态、场景泛化’的测试挑战。 一、为什么传统测试方法在大模型面前集体失灵？ 二、四大开源利器：构建可落地的大模型测试流水线 1. 三、实战案例：用开源栈完成一次端到端大模型测试 以某电商客服大模型升级为例： - 步骤1：用`Promptfoo`构建测试集——导入历史工单对话（500条），标注‘意图类别+预期响应类型+合规关键词’；
81910编辑于 2026-03-09 - 来自专栏啄木鸟软件测试
大模型测试落地实践深度解读
引言：当大模型从实验室走向产线，测试不再是‘验证功能’，而是‘守护智能边界’ 2024年，国内超73%的头部科技企业已将大模型集成至核心业务系统——客服对话引擎、金融风控决策链、医疗报告生成平台……然而 这些并非算法缺陷，而是测试体系与大模型特性严重错配的结果。本文基于啄木鸟软件测试团队服务12家AIGC企业的实战沉淀，系统拆解大模型测试从‘不可测’到‘可度量、可追溯、可治理’的落地路径。 一、为什么传统测试范式在大模型面前集体失灵？ 传统测试依赖确定性输入->确定性输出的契约，而大模型本质是概率性生成系统。我们曾协助某银行测试其信贷问答大模型，发现：同一问题‘逾期会影响征信吗？’ 例如，对‘医疗建议严谨性’指标，根据问题紧急程度动态调整——‘心梗症状识别’类问题要求事实准确率≥99.99%，而‘营养搭配建议’则允许95%±2%的合理浮动； ·失效根因图谱：当测试失败时，自动关联模型版本 结语：测试不是给大模型戴枷锁，而是为其装上‘质量导航仪’ 大模型测试的终极目标，不是消灭所有不确定性（这违背其本质），而是将不确定性控制在可解释、可接受、可追溯的风险区间内。
39010编辑于 2026-06-08 - 来自专栏啄木鸟软件测试
大模型测试团队如何成功转型？
而随着大语言模型（LLM）深度融入产品架构——从智能客服、代码补全到AI原生应用（AI-Native Apps），测试的边界正被彻底重构。 这背后不是测试工作的缩减，而是测试范式的升维——从验证‘是否正确实现’，转向保障‘是否安全、可信、可控地涌现价值’。 一、为什么传统测试方法论在大模型面前集体失灵？ 根本症结在于：大模型不具备确定性行为边界。传统测试依赖可复现的输入-输出映射（如：输入‘1+1’->输出‘2’），而LLM的响应受提示词微调、上下文长度、温度参数、权重版本甚至GPU浮点精度扰动影响。 2. 某政务大模型测试中，AI自动生成的‘惠民政策解读’虽语法完美，但将‘阶段性补贴’误读为‘永久性福利’，此类隐性逻辑谬误需领域专家交叉验证。
48610编辑于 2026-03-31 - 来自专栏啄木鸟软件测试
大模型测试：性能优化的5大实战策略
引言 随着ChatGLM、Qwen、DeepSeek及Llama系列大语言模型在金融、政务、医疗等关键场景加速落地，模型测试已远超传统‘功能是否正确’的范畴——性能成为决定能否上线的核心瓶颈。 这些并非个例，而是大模型测试进入深水区的典型信号：性能不是附加项，而是可信AI的第一道防线。 一、明确性能基线：拒绝‘拍脑袋’指标 大模型性能测试首要误区是套用小模型标准。 二、分层注入式压测：从单卡到集群的穿透验证 传统压力测试常止步于API层，而大模型性能瓶颈常藏于框架底层。 结语 大模型性能测试的本质，是构建‘可测量、可归因、可演进’的效能反馈闭环。 未来，随着MoE架构普及与稀疏化推理兴起，性能测试将更强调‘动态负载感知’与‘专家知识嵌入’——唯有将测试左移至模型编译阶段（如Triton Kernel Profiling集成），才能真正驾驭千亿参数时代的效能挑战
62310编辑于 2026-03-31 - 来自专栏AI进修生
谷歌新小模型Gemma2 2B真的和比它大100倍的模型相当吗？（全面测试）
几天前，Gemma 2 发布了两个变体，一个是 9B，另一个是 27B。它在基准测试中表现非常好，但当我测试它时，它几乎无法回答我的所有问题，这显然意味着它只是在基准测试问题上进行了训练。 我是说，他们本可以将其与范围相当的模型进行比较，比如 53，但他们只是想误导人们认为它与比它大100倍的模型相当。 给你一个提醒，在我之前对 Eureka 模型的测试中，它几乎未能通过每一项测试： 新增了四个秘密模型！ 他们只是想通过展示这个小模型比 100 倍大模型更好来获得多条推文，但实际上并不是这样，让人们认为它很棒，这样他们就可以告诉大家他们对开源做出了贡献之类的东西。 不过，如果你在找一个小模型，试试 Qwen 2 1.5B 或 53 Mini，你可以在几乎所有类型的设备上运行这些模型，这显然非常酷。 总的来说，Gemma 2 2B 模型并不是很好。
78110编辑于 2024-12-02 第13章 大模型在计算机视觉上的测试应用-2
13.3 大语言模型基础能力评测 13.3.1 大语言模型的评测流程 大语言模型的评测是非常重要的，它有助于了解模型的性能、局限性和可靠性。具体来说，通过评测，我们可以有如下收获。 准确性（Accuracy）：评估模型在给定任务上的准确性，即模型的输出与标准答案的匹配程度。 2. 鲁棒性的测试数据构造： 为了测试鲁棒性，HELM用了两种扰动方式，一种是语义不变性的扰动(Invariance)，主要对输入数据的进行如错别字、同义词等的变化，但这个句子的语义没有变化，如图13-22所示 图13-22 HELM的语义不变性的数据扰动示例 另一种是改变语义的扰动(Equivariance)，为了测试模型的Equivariance，可以对输入数据进行语义扰动，然后计算模型在扰动后的数据上的表现 它尝试在一系列国内外代表性的模型上使用多个维度能力进行测试，参见图13-27。
58010编辑于 2025-04-15- 来自专栏Soul Joy Hub
【大模型AIGC系列课程 3-2】国产开源大模型：ChatGLM
GLM https://arxiv.org/pdf/2103.10360.pdf GLM是General Language Model的缩写，是一种通用的语言模型预训练框架。 具体来说，GLM通过随机遮盖文本中连续的标记，并训练模型按顺序重新生成这些遮盖的部分。这种自回归的空白填充目标使得GLM能够更好地捕捉上下文中标记之间的依赖关系，并且能够处理可变长度的空白。 这个图示说明了GLM预训练的过程，具体解释如下： a) 原始文本：给定一个原始文本，例如[x1, x2, x3, x4, x5, x6]。 在生成过程中，模型可以根据之前生成的词片段和Part A中的上下文来预测下一个词片段。 d) 自注意力掩码：为了限制模型的注意力范围，
1K20编辑于 2023-08-28 - 来自专栏大模型成长之路
【大模型学习 | BERT 量化实战（2） 】
BERT 量化实战分析前言：在【大模型学习 | 量化实战（1）】-腾讯云开发者社区-腾讯云中基于BERT实现了情感分析系统以及量化的实现，但是量化的结果导致了模型的精确度急剧下降，从90%降到了54%， 未出现截断情况（即分布区域超过量化上下限）、分布近似 scale过大scale的计算如下所示：scale=\frac{max(w)-min(w)}{255} , 个别层的权重有离群值，会导致scale非常大， Sensitive Layers:") for r in results[:5]: print(f"{r[0]:40s} | Acc: {r[1]:.4f} | ΔAcc: {r[2] :.4f}") return results 其他分析方法层级 fallback 到 FP32与敏感性分析相关，该方法是将原模型逐层量化，观察精度下降情况误差传播分析对 float32 模型 和 模型 vs INT8 模型输出差异有多大
92310编辑于 2025-06-27 蜕变测试：大模型时代解决测试预言难题的银弹
然而，大模型时代的到来，让一种几乎被遗忘的测试方法重新焕发生机——蜕变测试(Metamorphic Testing)。 二、大模型蜕变测试的天然试验田 为什么大模型让测试预言问题雪上加霜 大模型的出现，将测试预言问题推向了新的极端： 输出空间爆炸：ChatGPT 对同一个问题可能生成数千种不同但都“合理”的回答 评判标准模糊 蜕变测试在大模型场景的自然优势 但大模型恰恰是蜕变测试最理想的应用场景，因为虽然我们不知道“正确答案”，但我们对“行为规律”有清晰的预期： 场景 1：语义等价变换 原始输入：“用 Python 写一个快速排序 第三阶段：大模型驱动的智能发现 大模型时代带来了质的飞跃：让 AI 来发现 AI 的测试规律。 在大模型时代，这种思维蜕变尤为关键： 保持技术敏感度：持续关注大模型的新能力和新风险，及时更新测试策略 培养关系思维：训练自己从“这个输出对吗”转向“这两个输出的关系合理吗” 拥抱 AI 辅助测试：让
47810编辑于 2026-04-21- 来自专栏大模型成长之路
【大模型学习 | BLIP2原理】
BLIP-2: Bootstrapping Language-Image Pre-training with Frozen Image Encoders and Large Language Models 作者提出一种从离线、梯度冻结的图像、语言模型中提升图文的预训练模型。为了联系两个不同模态预训练模型，作者提出一种使用两个阶段预训练模型Querying Transformer (Q-Former)。 一、预训练方法这种预训练方法分为了两个阶段 （1）视觉语言特征表示学习阶段 （2）视觉到文本的生成学习阶段 1.1 Q-Former主要作用就是对齐两个不同模态的冻结预训练模型 Q-Former包含了两个 transformer子模块：（1）Image Transformer （特征提取） （2） Text transformer (作为文本编码器和解码器) ; 一组可学习的查询嵌入向量作为 Image 作者尝试了两种LLM冻结模型：(1) decoder-based LLMs : query 表征作为 LLM 的输入前缀（prefix） → LLM 自己完成文本生成(2) encoder-decoder-based
1.4K00编辑于 2025-07-01 - 来自专栏啄木鸟软件测试
大模型测试常见误区，90%测试专家都踩过
引言 随着ChatGLM、Qwen、DeepSeek及Claude等大语言模型（LLM）加速落地，金融、政务、医疗、客服等关键领域正大规模引入AI能力。 然而，当传统测试方法被生搬硬套到大模型系统时，大量‘看似合理、实则失效’的测试实践正在悄然埋下质量隐患。 啄木鸟软件测试团队近两年深度参与6个行业级大模型应用项目（含某国有银行智能风控助手、省级12345政务大模型平台），发现超87%的测试团队在LLM测试中存在认知偏差或方法误用。 误区一：用‘功能点覆盖’替代‘能力域验证’ 传统Web/APP测试强调需求->功能点->用例的线性映射，但大模型没有明确‘功能边界’。 结语 大模型不是‘更聪明的API’，而是具备涌现性、状态依赖性与价值敏感性的新型认知组件。测试专家的核心竞争力，正从‘找Bug’升维为‘定义可信边界’。
26610编辑于 2026-06-15
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号