搜索 - 腾讯云开发者社区-腾讯云

文章/答案/技术大牛

发布

来自专栏Reinvent Data Science
详解 BGE-M3 与 Splade 模型
如 Splade 和 BGE-M3 等机器学习（ML）模型能够生成这种类型的向量。 02.BERT：BGE-M3和Splade的模型基石 BGE-M3 和 Splade 均基于 BERT 架构发展。 BGE-M3 工作原理 BGE-M3 是如何生成 Learned 稀疏向量的呢？让我们使用同样的用户查询来展示 BGE-M3 的工作原理。然而，BGE-M3 通过使用更精细的方法来创新这一过程，以捕捉每个 Token 的重要性： Token 重要性评估：BGE-M3 不只是依赖 [CLS] token 的表征（H[0]），还评估了序列中每个 BGE-M3 标志着我们在更精确、更高效地筛选和解读大量文本数据方面迈出了重要一步。
2.5K20编辑于 2024-07-20
Milvus + BGE-M3：Dense与Sparse向量混合检索技术解析
传统单一检索方式各有局限：检索方式优势劣势Dense向量检索语义理解强，能捕捉"苹果"与"水果"的关联精确关键词匹配较弱Sparse向量检索精确匹配强，能准确找到"iPhone15ProMax"缺乏语义理解能力BGE-M3 如BGE-M3、text-embedding-ada-002等。三、BGE-M3核心技术3.1三种检索模式BGE-M3（BAAIGeneralEmbedding-Multi-Functionality,Multi-Linguality,Multi-Granularity 统一方案：一次推理同时生成两种向量fromFlagEmbeddingimportBGEM3FlagModelmodel=BGEM3FlagModel('BAAI/bge-m3',use_fp16=True 400}7.3查询优化查询缓存：对高频查询结果进行缓存调整ef参数：ef=top_k*2到top_k*4预热索引：系统启动时执行预热查询并行检索：Dense和Sparse检索可并行执行八、总结核心要点BGE-M3
37810编辑于 2026-05-09
来自专栏云云众生s
使用 BGE-M3 生成学习型稀疏嵌入
BGE-M3 是一种用于创建学习型稀疏嵌入的 ML 模型，它将精度和语义丰富度相结合，用于高级自然语言处理。 BGE-M3 进入聊天 BERT 为我们提供了密集嵌入，但这里的目标是生成学习的稀疏嵌入。所以现在我们终于可以接触到 BGE-M3 模型了。 BGE-M3 模型深入研究这些嵌入，并试图在更细粒度的层面上理解每个标记的重要性。这方面有几个方面。标记重要性估计: BGE-M3 不会将 [CLS] 标记表示 Q[0] 视为唯一可能的表示。我们可以将 BGE-M3 生成的权重集称为 W_{lex}。 BGE-M3 在现实世界中的应用将 BGE-M3 模型应用于现实世界的用例可以帮助证明这种机器学习模型的价值。这些是组织可以从该模型理解大量文本数据中的语言细微差别能力中获益的领域。
1.7K10编辑于 2024-07-01
来自专栏JadePeng的技术博客
BGE M3-Embedding 模型介绍
我们可以查看官方与openai模型的对比，整体来看，采用三种方式联合检索的BGE-M3(ALL)在三项评测中全面领先，而 BGE-M3(Dense)稠密检索在多语言、跨语言检索中具有明显优势。 BGE-M3 模型亮点 1. 多语言（Multi-Linguality），训练集包含100+种以上语言 2. 多粒度（Multi-Granularity） BGE-M3目前可以处理最大长度为8192 的输入文本，支持“句子”、“段落”、“篇章”、“文档”等不同粒度的输入文本 BGE-M3 训练数据 M3-Embedding BGE-M3训练方式和创新点 BGE-M3模型训练分为三个阶段： 1）RetroMAE预训练，在105种语言的网页数据和wiki数据上进行，提供一个可以支持8192长度和面向表示任务的基座模型； BGE-M3 实验结果多语言检索任务，稀疏检索(Sparse)大幅超过了传统的稀疏匹配算法BM25。多向量检索(multi-vector)则获得了三种检索方式中的最佳效果。
16.5K11编辑于 2024-04-19
来自专栏个人路线
基于 Cherry Studio+Ollama+DeepSeek 构建私有知识库
本期将带领读者完成基于 Cherony Studio+Ollama+DeepSeek 的私有知识库搭建，核心将采用 BGE-M3 向量模型实现知识嵌入。一、向量模型选型：BGE-M3 1.1 技术背景北京智源人工智能研究院（BAAI）研发的 BGE-M3（多语言长文本向量检索模型），以其独到的 Multi-Linguality（多语言）、Multi-Functionality 舆情分析/法律文档分类无监督学习能力跨语言对齐新闻聚合/全球化知识库统一语义空间映射 RAG 系统支持智能客服/法律咨询 LLM 增强生成准确率二、2.1 模型获取 ollama pull bge-m3
10.5K100编辑于 2025-02-07
【知识库特性增量】 DeepSeek-R1 模板支持 bge-m3 embedding model
流程：用 BGE-M3 将问题编码为向量； -从向量数据库检索《户外用品保养指南》中相关段落； -将检索结果输入大模型（如DeepSeek-R1），生成步骤清晰的回答。与传统方式相比具备优势为什么选择 bge-m3 Embedding 模型？本次，Cloud Studio 在DeepSeek-R1 模板中内置了 BAAI/bge-m3。希望给知识库玩家带来更加准确的召回效果，让工具更加实用。如何在 CloudStudio DeepSeek-R1 模板中设置 bge-m3步骤一：进入 Cloud Studio DeepSeek CPU 模板，唤起内置 Open-WebUI 或 AnythingLLM ，进入浏览器全屏模式点击左下角【设置】进入【人工智能提供商】-【Embedder首选项】，在【嵌入引擎提供商】处选择“Ollama”，随后在下方【Ollama Embedding Model】处选择“bge-m3
3.3K10编辑于 2025-02-20
DeepSeek R1 + 个人知识库，直接起飞！
嵌入（embedding）模型，推荐添加下面两个：完全免费的BAAI/bge-m3和付费的Pro/BAAI/bge-m3。一般说来，免费的BAAI/bge-m3模型就够用。嵌入模型选择上一步中添加的免费模型BAAI/bge-m3就可以。接下来就可以往你创建好的知识库里添加资料，CherryStudio支持各种类型的资料，比如文件、网址、笔记等等。
20500编辑于 2026-05-25
来自专栏ai应用
LLMOps实战（四）：大模型开发 RAG 工作流中 Embedding 模型选型全解析
推荐模型：BGE-M3：支持多模态检索，稀疏向量增强表格数值匹配，首条命中率可达83%。SQLNet：是一种专门用于处理结构化数据的 Embedding 模型。 BGE-M3：这里再一次提到 M3，它的综合性能很强，中文场景最优，支持混合检索（稠密+稀疏向量），长文档处理突出，它不仅可以处理文本数据，还可以处理图像等其他模态的数据。适用场景优先选择 BGE-M3：支持纯文本数据（文档、对话），混合型数据（文本+结构化属性）若需多语言支持且预算有限，BGE-M3 是开源方案中的首选，同时 BGE-M3 支持跨模态检索（文本+图像/表格选型总结：明确数据与任务：纯文本 → text-embedding系列/BGE-M3；领域文本 → Nomic Embed。评估资源与需求：低资源 → small；高精度 → large/BGE-M3；领域需求 → Nomic。验证扩展性：多语言/混合数据 → BGE-M3；动态领域 → Nomic Embed。
3.9K01编辑于 2025-03-29
来自专栏前端必修课
打造专属AI智能知识库
分类选择“嵌入”，再选择“BAAI/bge-m3”嵌入模型。最后，确保界面右上角的开关已打开。至此，嵌入模型配置完毕。进入添加知识库页面后，选择已配置好的“BAAI/bge-m3”嵌入模型，输入知识库名称（如“Redis”），然后点击“确定”。添加知识库数据接下来可为知识库添加数据。
1.1K10编辑于 2025-05-14
来自专栏云云众生s
寻找最佳的RAG开源嵌入模型
虽然具有更高维度（1,024）的嵌入模型整体表现最好，但**bge-m3与其他模型在所有问题类型上的差距是显著的**。这种优越的性能可能是由于bge-m3的多功能性，使其能够有效地处理各种嵌入类型，例如密集型、多因素和稀疏检索。这种多功能性能够更好地理解上下文，尤其是在处理冗长和隐含的问题时。 bge-m3在长问题上表现尤其出色，其最高的检索准确率为 92.5%，展示了其强大的上下文理解能力。最后，所有三个模型在不清楚和含糊不清的问题上的表现都很差，最低准确率从bge-m3的 51.25% 到nomic-embed-text的 37.5%。例如：较大的模型，例如bge-m3 和mxbai-embed-large，由于其更高的维度和复杂性，生成嵌入的时间更长。但是，它们会生成更丰富、更注重上下文的嵌入。
2.9K10编辑于 2024-12-24
来自专栏科学最Top
使用cherry studio离线搭建私人知识库流程记录
主要过程是：首先下载ollama用于管理大模型；然后，从魔塔社区下载需要的deepseek、千问大模型和bge-m3嵌入模型，导入到ollama；最后在cherry studio构建知识库进行配置和使用此外，由于我们构建知识库，还需要把知识库文件转换为向量，因为还要使用嵌入模型，这里我们也是从魔塔社区下载bge-m3[3]下载guff格式的嵌入模型。我们为qwen:7B大模型和bge-m3嵌入模型新建好modelfile文件，然后在当前目录下使用以下命令，把两个模型导入到ollama平台。
4.1K10编辑于 2025-05-04
来自专栏AI研习日志
DeepSeek + Ollama + Cherry Studio搭建本地私有知识库
Pro 36GB （2）软件：cherry studio v0.9.21 下载, ollama 下载（3）基础模型为：deepseek-r1:7b （ollama 内置下载）（4）嵌入模型为：bge-m3 官网下载ollama 下载并安装后，打开任意终端，如图输入以下两个命令来下载并运行 deepseek-r1 和 beg-m3，基础模型为deepseek-r1:7b，嵌入模型为bge-m3，需要联网下载 ollama run deepseek-r1:7b运行 deepseek-r1 成功后，可以再终端进行问答测试ollama pull bge-m3步骤三：在 Cherry Studio 中配置模型如图，在 Cherry Studio 设置页面配置模型服务，选择 Ollama，模型选择弹窗中选中 deepseek-r1:7b 和 bge-m3:latest配置模型成功后应该如下图所示，也可以点击 check 步骤四：在 Cherry Studio 中构建知识库在Cherry Studio 知识库配置页卡中，按照自己的需要新建【知识库】，嵌入模型选择【bge-m3:latest】，然后上传知识库素材，可以添加文档
7.9K52编辑于 2025-02-26
来自专栏DeepHub IMBA
选择最适合数据的嵌入模型：OpenAI 和开源多语言嵌入的对比测试
BGE-M3:该模型由北京人工智能研究院设计，是他们最先进的多语言数据嵌入模型，支持100多种工作语言。截至2024年2月22日，它还没有进入MTEB排行榜。 batch_size':1, 'kwargs': {'device_map': 'cuda', 'torch_dtype':torch.float16}} embeddings_model_spec['BGE-M3 ']={'model_name':'BAAI/bge-m3','max_length':8192, 'pooling_type':'cls', BGE-M3模型尚未在MTEB排行榜上进行基准测试，我们的结果表明它可能比其他模型排名更高。虽然BGE-M3针对多语言数据进行了优化，但它在英语方面的表现也比其他模型更好。 E5-mistral-7b比其他模型大10倍以上，所以最慢是很正常的总结我们把所有的结果做一个汇总采用开源模型获得了最好的性能，BGE-M3模型表现最佳。
4K10编辑于 2024-03-01
来自专栏测试开发真货
AI助力测试-测试用例的编写
知识库是CherryStudio实现精准需求理解的核心模块，需完成嵌入模型配置与需求文档上传两步关键操作：1.添加BAAI/bge-m3嵌入模型进入CherryStudio后台管理界面，选择"知识库设置 "→"嵌入模型管理"，点击"添加模型"并选择BAAI/bge-m3。
1.3K30编辑于 2025-11-21
来自专栏自然语言处理
告别碎片化！两大先进分块技术如何提升RAG的语义连贯性？
模型依赖性延迟分块效果高度依赖嵌入模型（例如Jina-V3表现优于BGE-M3），缺乏普适性结论。劣势：- 对长文档嵌入模型依赖性强（如BGE-M3效果差）；- 部分场景下相关性下降（表3中MsMarco数据集表现弱于早期分块）。基线方法与对比实验设置方法类型方法细节特点传统 RAG 早期分块（固定窗口或语义分块） + 嵌入模型（如 Jina-V3、BGE-M3）。分块后嵌入，可能丢失全局上下文。嵌入模型 Jina-V3（MTEB 排名 53）、Stella-V5（排名 5）、BGE-M3（排名 211）等。 BGE-M3 在早期分块中优于延迟分块（NDCG@5=0.246 vs. 0.070）。动态分块模型（如Topic-Qwen）在语义分割中提升效果，但计算耗时增加4倍。
1.1K21编辑于 2025-04-30
Skill-adapter：让SKILL快速部署到你的ai应用
Legacy baseline.bm25_bge_m3: BM25 + BGE-M3 dense hybrid. Fully implemented. Recommended baseline for phase-2 benchmark.bge_m3_rerank: BGE-M3 first-stage + reranker pipeline. Implemented (with dependency fallback).bm25_bge_m3_rerank: BM25 + BGE-M3 first-stage + reranker pipeline
39420编辑于 2026-03-23
来自专栏Reinvent Data Science
重磅！Zilliz 与智源研究院联合推出自动化多样性信息检索评测基准 AIR-Bench
AIR-Bench 测试结果我们在 AIR-Bench 上对部分模型进行了测试，包括传统的稀疏检索方法 BM25[6]，开源社区较为流行的向量模型 bge-m3[7]、jina-embeddings-v2 Benchmark, https://github.com/embeddings-benchmark/mteb [6] BM25, https://github.com/castorini/pyserini [7] bge-m3 , https://huggingface.co/BAAI/bge-m3 [8] jina-embeddings-v2-base-en, https://huggingface.co/jinaai/jina-embeddings-v2
54510编辑于 2024-05-31
来自专栏Reinvent Data Science
全面提升 RAG 质量！Zilliz 携手智源集成 Sparse Embedding、Reranker 等多种 BGE 开源模型
自 2023 年 8 月首次发布以来，智源团队陆续推出了中英文模型 BGE v1.0、v1.5、以及支持多达 100 多种语言和多种召回方式的 BGE-M3 模型。 BGE-M3 模型更是一度跃居 Hugging Face 热门模型前三名。在最新推出的 Milvus 2.4 客户端中，为 BGE 模型提供了简单易用的函数封装。目前已经集成的 BGE 开源模型包括： Embedding 模型 BAAI/bge-m3 BAAI/bge-large-en-v1.5 BAAI/bge-base-en-v1.5 BAAI/bge-small-en-v1.5 例如，仅需pip install pymilvus[model]，就可以方便地使用 BGE-M3 模型生成的 Dense Vector 进行向量最近邻搜索，并用 BGE Reranker 模型对结果进行精排
2.1K11编辑于 2024-04-30
来自专栏大模型应用开发
在GiteeAI上免费体验满血版本的DeepSeek结合NL2Sql效果如何？
enabled: false embedding: enabled: true options: model: bge-m3 pull-model-strategy: never embedding: additional-models: - bge-m3
38110编辑于 2025-10-14
来自专栏云原生应用工坊
基于 LLM 的 AIOPS 探索系列：构建 RAG + LLM 驱动的 AskAI 助手
OpenResty 1.27.1.2 缓存 Redis 8.2.0 向量存储 PostgreSQL + pgvector 14.18 本地模型 Hugging Face Hub + Ollama baai/bge-m3 , llama2:13b 云端模型 Chutes.AI/阿里百川 baai/bge-m3, llama-3.2-3b 系统架构总览架构主要包括以下核心组成：嵌入服务（Embedding）：本地部署
62910编辑于 2025-08-17

第 2 页第 3 页第 4 页第 5 页第 6 页

点击加载更多

详解 BGE-M3 与 Splade 模型

Milvus + BGE-M3：Dense与Sparse向量混合检索技术解析

使用 BGE-M3 生成学习型稀疏嵌入

BGE M3-Embedding 模型介绍

基于 Cherry Studio+Ollama+DeepSeek 构建私有知识库

【知识库特性增量】 DeepSeek-R1 模板支持 bge-m3 embedding model

DeepSeek R1 + 个人知识库，直接起飞！

LLMOps实战（四）：大模型开发 RAG 工作流中 Embedding 模型选型全解析

打造专属AI智能知识库

寻找最佳的RAG开源嵌入模型

使用cherry studio离线搭建私人知识库流程记录

DeepSeek + Ollama + Cherry Studio搭建本地私有知识库

选择最适合数据的嵌入模型：OpenAI 和开源多语言嵌入的对比测试

AI助力测试-测试用例的编写

告别碎片化！两大先进分块技术如何提升RAG的语义连贯性？

Skill-adapter：让SKILL快速部署到你的ai应用

重磅！Zilliz 与智源研究院联合推出自动化多样性信息检索评测基准 AIR-Bench

全面提升 RAG 质量！Zilliz 携手智源集成 Sparse Embedding、Reranker 等多种 BGE 开源模型

在GiteeAI上免费体验满血版本的DeepSeek结合NL2Sql效果如何？

基于 LLM 的 AIOPS 探索系列：构建 RAG + LLM 驱动的 AskAI 助手

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐