- 综合排序
- 最热优先
- 最新优先
大模型幻觉测试
大模型幻觉测试本方法为企业级可落地的全流程幻觉测试体系，融合学术界权威基准与工业界工程实践，覆盖从口径定义、用例设计、自动化执行、量化打分到归因优化的完整闭环。 ：TruthfulQA官方基准落地参考值：通用大模型≥70%为良好，垂直领域模型≥85%为良好业务落地补充指标整体幻觉率：出现幻觉的用例占总测试用例的比例幻觉率=幻觉用例数/总用例数分类幻觉占比：事实/ temperature=0.1，top_p=0.9），确保结果可复现通过API或CLI批量调用被测大模型，全量保存输入输出日志（问题、回答、模型版本、调用时间）单用例调用失败自动重试2次，排除接口波动导致的误判步骤 自动化流水线：拆解：用大模型将回答拆分为原子事实断言检索：从业务知识库/权威百科检索对应证据判定：用判别模型逐句判断证据是否支持断言打分：汇总计算FactScore与各维度幻觉率步骤4：人工复核与归因（ 批量测试内置三级熔断，避免资源浪费与无效执行：单用例重试：单次调用失败自动重试2次连续失败熔断：连续10条用例检测为幻觉，暂停执行，排查模型/知识库故障超时终止：单条用例执行超过30秒强制终止，避免卡死六
16710编辑于 2026-09-08- 来自专栏啄木鸟软件测试
大模型测试性能优化：测试专家必看
引言 随着ChatGLM、Qwen、DeepSeek、Llama系列等大语言模型（LLM）在金融、政务、医疗等关键场景加速落地，软件测试正面临前所未有的范式变革。 更严峻的是——大模型测试本身正成为性能瓶颈：单次Prompt-Response耗时数百毫秒至数秒，批量评估动辄数小时；RAG流水线需反复调用嵌入模型+向量检索+重排序+生成模型，端到端延迟陡增；而A/B 如何让测试‘跑得快、判得准、控得住’？本文从工程化视角，为测试专家梳理大模型测试性能优化的四大核心路径。 四、测试即代码（TaaC）：编排优化与资源感知调度 大模型测试不再是‘点一下Run’的黑盒操作。 结语 大模型测试的性能优化，本质是测试思维的升维：从‘验证输出是否正确’走向‘验证系统是否可持续交付高质量输出’。
62010编辑于 2026-03-04 - 来自专栏web安全
渗透测试信息收集10大技巧
前言在渗透测试中，信息收集是非常关键的一步，它为后续的漏洞发现和利用提供了重要的基础。 这有助于了解目标网络中的关键节点和流量分布，为后续的渗透测试提供指导。3、DNS枚举对目标域名进行DNS枚举，以发现与目标域名相关的其他域名或子域名。
37700编辑于 2026-07-13 - 来自专栏测试技术圈
LangSmith帮助测试大模型系统
LangSmith是评估大模型能力好坏的评估工具，能够量化评估基于大模型的系统的效果。LangSmith通过记录langchain构建的大模型应用的中间过程，从而能够更好的调整提示词等中间过程做优化。 为了测试我们依托讯飞星火大模型创建一个继承LangChain的CustomLLMSparkLLM的类（代码在6.2.1章节），依托对应的类我创建了如下的测试代码。 #! router_chain, destination_chains=chain_map, default_chain=default_chain, verbose=True ) # 测试 在项目下的列表中，我们多次执行LangChain构建的大模型的应用也可以做横向对比。 每一次的处理和反馈的Trace都可以展示响应时间和使用的Token数。 LangSmith完成了跟踪LangChain构建应用的所有的中间过程，这也为验收或者测试LangChain构建的基于大模型的应用提供了有力的手段。
2.4K10编辑于 2024-04-30 - 来自专栏老张的求知思考世界
详解性能测试三大模型
从我的实践经验来说，如果无法对系统和业务有足够的了解，没有较为精准的性能测试三大模型，则性能测试的结果无法对线上容量规划起到明显的参考价值。 今天这篇文章算是性能测试知识的科普内容，我会聊聊在实际工作中开展性能测试，前期最核心的工作。即业务模型、流量模型和数据模型这三大模型，该如何评估和建立。 为了便于大家理解三大模型，我会以电商业务下单的场景来举例说明，如下图： 业务模型 大家可以将业务模型看作功能测试中的业务场景。 ； 构建流量模型 下面是之前我实际工作中一次双11大促时的流量模型构建案例，仅供参考。 业务目标：双11当天，预估平均客单价为500，单日GMV为10亿，那么支付订单量为10亿/500=200W； 技术指标： 假设日常支付订单量为50W，支付转化率为40%，订单支付QPS峰值为200。
91810编辑于 2024-10-28 - 来自专栏啄木鸟软件测试
大模型测试：技术深度解析
与此同时，传统软件测试范式——基于明确输入/输出断言、覆盖路径与边界值的方法——在大模型面前频频失效。 这些案例揭示一个现实：大模型测试不是‘加个Prompt跑几轮’，而是一场融合认知科学、统计推断、对抗攻防与领域知识的系统工程。 一、为何传统测试方法在大模型面前失灵？ 二、大模型测试的四维技术框架 业界领先实践已形成可落地的四维测试体系： ✅ 1. 三、实战案例：某省级政务大模型的测试攻坚 该模型需支撑12345热线智能分派与政策解读。 结语：测试不是模型发布的终点，而是可信AI的起点 大模型测试的本质，是建立人与AI之间的‘可信契约’：它不承诺绝对正确，但承诺可知的边界、可测的风险、可控的退路。
44800编辑于 2026-06-15 - 来自专栏技术趋势
windows10搭建llama大模型
背景 随着人工时代的到来及日渐成熟，大模型已慢慢普及，可以为开发与生活提供一定的帮助及提升工作及生产效率。所以在新的时代对于开发者来说需要主动拥抱变化，主动成长。 LLAMA介绍 llama全称：Large Language Model Meta AI是由meta（原facebook）开源的一个聊天对话大模型。 ~all~sobaiduend~default-1-106591160-null-null.142^v88^control,239^v2^insert_chatgpt&utm_term=windows10% Linux图： 下载羊驼模型（有点大） 先建一个文件夹：path_to_original_llama_root_dir 在里面再建一个7B文件夹并把tokenizer.model挪进来。 -f prompts/alpaca.txt -ins -c 2048 --temp 0.2 -n 256 --repeat_penalty 1.3 结果 最后 我知道很多同学可能觉得学习大模型需要懂
1.8K30编辑于 2023-09-12 三大领域大语言模型安全基准测试
TRIDENT：金融、医疗和法律领域的大语言模型安全基准测试随着大语言模型（LLMs）在法律、金融和医疗等高风险领域的部署日益增多，系统评估其领域特定安全性和合规性变得至关重要。 为填补这一空白，研究首先基于某机构医学伦理原则、某机构专业行为示范规则和某机构道德准则，定义了大语言模型的领域特定安全原则。 在此基础上，推出了Trident-Bench基准测试，专门针对法律、金融和医疗领域的LLM安全性进行评估。 研究在Trident-Bench上评估了19个通用型和领域专用模型，结果表明该基准能有效揭示关键安全漏洞：强大的通用模型（如某中心GPT、某中心Gemini）能够满足基本要求，而领域专用模型往往难以处理细微的伦理差异 代码和基准测试将在以下网址发布：https://github.com/xxx
45100编辑于 2025-09-04- 来自专栏kylinTOP测试与监控平台
10大主流性能测试工具推荐
市面上流行的压力/负载/性能测试工具多是来自国外，近年来国内的性能测试工具也如雨后春笋崛起。同时由于开发的目的和侧重点不同，其功能也有很大差异，下面就为您简单介绍10款目前最常见的测试产品。 10个免费虚拟用户可供学习和使用。 NeoLoad通过使用无脚本GUI和一系列自动化功能，可让测试设计速度提高5-10倍，并将维护的脚本维持在原始设计时间的10％，同时帮助用户使用持续集成系统自动进行测试。 应用在大负载下的性能表现。 管网地址：http://opensta.org/ 总结 商用性能工具在易用性（脚本生成）、并发模型、统计指标上要比开源免费软件要好很多，可以大大提高工作效率，降低使用难度，在统计指标上要丰富的多。
8K00发布于 2019-12-28 - 来自专栏啄木鸟软件测试
大模型性能优化测试实战指南
本文基于我们在金融、政务、制造领域的真实测试案例，系统拆解大模型性能优化的测试方法论与实战路径，聚焦‘可测、可调、可证’三原则，拒绝空谈架构，直击工程落地痛点。 一、性能测试不是压测，而是建模：定义属于大模型的SLI/SLO 传统Web服务常以TPS、P99延迟为黄金指标，但大模型服务存在显著异构性：输入长度（token数）动态变化、输出非确定性（流式生成）、计算负载高度不均衡 结语：性能优化是测试工程师的新护城河 大模型时代的性能测试，早已超越LoadRunner脚本编写。 在啄木鸟近期认证的‘大模型性能测试工程师’中，73%来自原SRE/算法工程岗——这印证了一个趋势：谁掌握性能验证闭环能力，谁就掌握大模型落地的最终话语权。 下一期，我们将发布《大模型可靠性测试白皮书V2.0》，涵盖混沌工程注入、对抗样本压力测试等前沿实践，敬请关注。
54010编辑于 2026-06-15 大语言模型基准测试框架解析
大语言模型基准测试框架解析某研究者近日在代码托管平台发布了针对大语言模型的新基准测试框架。 该框架包含从实际与大语言模型对话记录中提取的近100项测试，涵盖以下技术场景：将Python函数转换为等效但更快的C函数解释压缩后的JavaScript代码功能识别数据编码格式（如uuencode编码） ：LLMRun：向语言模型发送提示词ExtractCode：从模型输出提取代码块CRun/PythonRun：在隔离环境中执行代码SubstringEvaluator：验证输出包含预期字符串复杂测试场景框架支持多步骤交互测试 ：避免复杂的提示工程，测试原始问题解决能力可扩展性：允许用户轻松添加自定义测试用例结论该基准测试框架为实践者提供了评估大语言模型实用能力的工具，特别适用于：研究代码辅助能力评估编程任务解决能力测试特殊领域知识验证研究者强调该框架不适合学术基准使用 ，但鼓励开发者扩展测试用例以评估模型在特定领域的实用性能。
48210编辑于 2025-08-23- 来自专栏啄木鸟软件测试
开源方案：大模型测试实战指南
引言：当大模型从实验室走向产线，测试不再是‘锦上添花’，而是‘安全底线’。 更值得关注的是，头部企业正悄然转向开源测试工具链——不是因为预算限制，而是因其透明性、可审计性与快速迭代能力，恰好匹配大模型‘黑盒深、行为动态、场景泛化’的测试挑战。 一、为什么传统测试方法在大模型面前集体失灵？ 二、四大开源利器：构建可落地的大模型测试流水线 1. 三、实战案例：用开源栈完成一次端到端大模型测试 以某电商客服大模型升级为例： - 步骤1：用`Promptfoo`构建测试集——导入历史工单对话（500条），标注‘意图类别+预期响应类型+合规关键词’；
81910编辑于 2026-03-09 - 来自专栏啄木鸟软件测试
大模型测试落地实践深度解读
引言：当大模型从实验室走向产线，测试不再是‘验证功能’，而是‘守护智能边界’ 2024年，国内超73%的头部科技企业已将大模型集成至核心业务系统——客服对话引擎、金融风控决策链、医疗报告生成平台……然而 这些并非算法缺陷，而是测试体系与大模型特性严重错配的结果。本文基于啄木鸟软件测试团队服务12家AIGC企业的实战沉淀，系统拆解大模型测试从‘不可测’到‘可度量、可追溯、可治理’的落地路径。 一、为什么传统测试范式在大模型面前集体失灵？ 传统测试依赖确定性输入->确定性输出的契约，而大模型本质是概率性生成系统。我们曾协助某银行测试其信贷问答大模型，发现：同一问题‘逾期会影响征信吗？’ 结语：测试不是给大模型戴枷锁，而是为其装上‘质量导航仪’ 大模型测试的终极目标，不是消灭所有不确定性（这违背其本质），而是将不确定性控制在可解释、可接受、可追溯的风险区间内。 当测试从质量终点站前移到价值创造链路，它就真正成为了大模型规模化落地的‘信任基建’。下一站，我们将探索‘测试即文档’——让每次测试用例自动生成模型能力说明书，让业务方读懂AI的边界与善意。
39010编辑于 2026-06-08 - 来自专栏啄木鸟软件测试
大模型测试团队如何成功转型？
而随着大语言模型（LLM）深度融入产品架构——从智能客服、代码补全到AI原生应用（AI-Native Apps），测试的边界正被彻底重构。 这背后不是测试工作的缩减，而是测试范式的升维——从验证‘是否正确实现’，转向保障‘是否安全、可信、可控地涌现价值’。 一、为什么传统测试方法论在大模型面前集体失灵？ ）的敏感度；右移则指向生产环境持续验证——美团AI客服上线后，通过影子流量将10%真实用户请求同步至新旧模型，构建‘响应一致性热力图’，自动标注语义偏差突增节点，驱动模型快速回滚或提示优化。 某政务大模型测试中，AI自动生成的‘惠民政策解读’虽语法完美，但将‘阶段性补贴’误读为‘永久性福利’，此类隐性逻辑谬误需领域专家交叉验证。 结语：测试的终极使命从未改变 大模型没有颠覆测试的本质，反而将其升华。测试从来不只是关于‘发现错误’，而是关于‘建立信任’——对技术边界的清醒认知，对用户期待的精准回应，对社会价值的坚定守护。
48610编辑于 2026-03-31 - 来自专栏啄木鸟软件测试
大模型测试：性能优化的5大实战策略
引言 随着ChatGLM、Qwen、DeepSeek及Llama系列大语言模型在金融、政务、医疗等关键场景加速落地，模型测试已远超传统‘功能是否正确’的范畴——性能成为决定能否上线的核心瓶颈。 这些并非个例，而是大模型测试进入深水区的典型信号：性能不是附加项，而是可信AI的第一道防线。 一、明确性能基线：拒绝‘拍脑袋’指标 大模型性能测试首要误区是套用小模型标准。 二、分层注入式压测：从单卡到集群的穿透验证 传统压力测试常止步于API层，而大模型性能瓶颈常藏于框架底层。 我们设计了大模型专属混沌矩阵： 计算扰动：随机冻结10% GPU SM单元（CUDA_VISIBLE_DEVICES控制），观测降级后TTFT波动幅度； 内存扰动：通过LD_PRELOAD注入malloc 结语 大模型性能测试的本质，是构建‘可测量、可归因、可演进’的效能反馈闭环。
62310编辑于 2026-03-31 - 来自专栏喔家ArchiSelf
大模型应用的10个架构挑战
基于笔者近年来的探索与实践，这里列举了面向大模型应用系统架构设计的10个挑战。 1. 生产环境的挑战——推理框架的选择 对于大模型应用而言，生成环境的运行时是一个推理架构。 开发范式的挑战——提示词管理 在很大程度上，大模型应用是一种开发范式的转变——面向提示词的编程。基于AB测试，版本控制等方面的考量，这种开发方式面对的挑战就是提示词管理。 尽管我们已经有了一些探索，例如《大模型应用的10个架构模式》(https://mp.weixin.qq.com/s? 建议在不同的测试数据集和域上交叉验证 LLM，以确保鲁棒性和泛化性。 9. 虽然大模型在人工智能领域具有广泛的应用前景，但并不是所有场景都适合使用大模型。在设计系统架构时，我们需要根据具体需求和技术挑战来判断是否需要引入大模型，以确保系统的高效性和可靠性。 10.
1.4K10编辑于 2024-12-24 - 来自专栏喔家ArchiSelf
大模型应用设计的10个思考
技术不是万能的，但没有技术却可能是万万不能的，对于大模型可能也是如此。 基于大模型的应用设计需要聚焦于所解决的问题，在自然语言处理领域，大模型本身在一定程度上只是将各种NLP任务统一成了sequence 到 sequence 的模型。 利用大模型， 我们是在解决具体的生产和生活中的问题，产品和技术上的设计仍然不可或缺。 那么，如果大模型正在重新构建软件工程的未来，我们是否应该遵循一些基本原则呢？ 1. 事实上，模型还可以作为代码的安全监视器，确保代码的运行安全；它也可以作为测试策略的一个组件，帮助我们制定更为有效的测试方案；甚至可以作为内容过滤器，协助我们生成高质量的内容。 因此，只要我们对模型进行适当的控制和引导，它就能成为我们工作中得力的“助手”。而这种控制的基础，就是我们对模型内部机制和特点的深入了解和掌握。 10.
69210编辑于 2023-12-04 - 来自专栏机器学习/数据可视化
机器学习分类模型10大评价指标
公众号：尤而小屋作者：Peter编辑：Peter大家好，我是Peter~机器学习分类模型的评价指标是在衡量模型在未知数据集上的性能表现，通常基于混淆矩阵和相关的评价指标。 样本的真实类别是负类，但模型将其识别为正类。True Negative（TN）：真负类。样本的真实类别是负类，并且模型将其识别为负类。 ，精确率越高，表示模型越好。 ，也就是说精确率是模型在某个类别上的判断。 下图是来自维基百科对ROC-AUC的解释：图片通过对分类阈值$\theta$（默认情况下是0.5，范围是0到1）从大到小或者从小到大排列，就可以得到多组TPR和FPR的取值，在二维坐标系中绘制出来就可以得到一条
1.8K10编辑于 2023-10-13 - 来自专栏大模型应用
大模型应用：大模型性能评估指标：CLUE任务与数据集详解.10
，应运而生，它就像一把精准的尺子，为中文大模型的性能评估提供了标准化方案。 同样，没有CLUE这样的基准，我们也难以比较不同大模型的优劣。CLUE不仅填补了中文自然语言处理评估的空白，更为模型研发提供了明确的方向指引。二. CLUE基准概述1. 它汇集了多个自然语言处理任务，旨在全面测试模型在中文环境下的语言理解能力。就像高考包含语文、数学、英语等多科目一样，CLUE通过多样化的任务来考察模型的"综合素质"。2. 加载预训练模型，示例采用bert-base-chinese模型4. 对测试集进行预测5. 随着人工智能技术的不断演进，CLUE基准也将持续完善，更好地服务于大模型的研发和应用。 正如一句古语所说："工欲善其事，必先利其器。"CLUE基准就是我们评估和提升大模型能力的利器。
85432编辑于 2026-02-07 蜕变测试：大模型时代解决测试预言难题的银弹
二、大模型蜕变测试的天然试验田 为什么大模型让测试预言问题雪上加霜 大模型的出现，将测试预言问题推向了新的极端： 输出空间爆炸：ChatGPT 对同一个问题可能生成数千种不同但都“合理”的回答 评判标准模糊 蜕变测试在大模型场景的自然优势 但大模型恰恰是蜕变测试最理想的应用场景，因为虽然我们不知道“正确答案”，但我们对“行为规律”有清晰的预期： 场景 1：语义等价变换 原始输入：“用 Python 写一个快速排序 第三阶段：大模型驱动的智能发现 大模型时代带来了质的飞跃：让 AI 来发现 AI 的测试规律。 ，系统回应应保持专业）、上下文连贯性测试 内容审核：边界敏感性测试（微调敏感词，分类结果应合理变化） 进阶层：对抗性蜕变测试 主动探索模型的边界和弱点： 极端值测试：输入长度从 10 字扩展到 10000 在大模型时代，这种思维蜕变尤为关键： 保持技术敏感度：持续关注大模型的新能力和新风险，及时更新测试策略 培养关系思维：训练自己从“这个输出对吗”转向“这两个输出的关系合理吗” 拥抱 AI 辅助测试：让
47810编辑于 2026-04-21
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号