- 综合排序
- 最热优先
- 最新优先
- 来自专栏机器学习与统计学
大模型 Python 库 litellm 被投毒，不要更新，不要更新，不要更新
就在昨天，AI 圈出了个大事，很多项目每天都在用的 litellm 被人下毒了！ 可能被收集的信息 litellm 是一个很重要的依赖，我也查了一下，也安装的有，目前的版本还是安全的 简介 2026年3月24日，一个名为 1.82.8 的 litellm 版本被悄无声息地发布到了 PyPI 这个包里夹带了私货：一个名为 litellm_init.pth 的文件，34KB 左右大小。 更要命的是，即便是你从来没主动去 pip install litellm，你也极有可能中招。 如果你的项目碰巧或者间接在近两天安装或更新了依赖 litellm>=1.82.8 的库（或者你的 ~/.cache/uv 里能翻出 litellm_init.pth）： 立即删除、清空 pip / uv
84630编辑于 2026-03-27 - 来自专栏黑伞安全
紧急预警 | AI开发者必看LiteLLM遭PyPI供应链投毒
⚠️ 核心预警一条命令 pip install litellm 即可泄露你的全部密钥！ 事件速览 2026年3月24日，AI开发者圈子里炸了锅。 月均下载量高达 9700万次 的Python库 LiteLLM，在PyPI官方仓库悄悄上线了两个"毒版本"——1.82.7 和 1.82.8。 LiteLLM 是什么？ LiteLLM 是一个开源的 AI API 网关，支持开发者用统一格式调用 OpenAI、Anthropic、Azure 等 100多家 大模型服务商的接口。 正因为它太基础、太常用，不仅是直接用户，所有以 LiteLLM 为依赖的下游项目，同样难逃波及。 ⚔️ 攻击是怎么运作的？ ： # 卸载并重装安全版本 pip uninstall litellm -y pip install litellm==1.82.6 ️ 不只是卸载这么简单 如果你已经安装过恶意版本，卸载只是第一步，更重要的是
69520编辑于 2026-03-26 如何使用 LiteLLM 网关代理统一管理你的大模型
在目前的开源方案里，LiteLLM 是非常实用、也非常容易真正落地的一种。 它解决的不是“能不能用”，而是“怎么管”先说清楚一件事：LiteLLM 本身不是模型。 args: target: runtime image: docker.litellm.ai/berriai/litellm:main-stable ############# 4️⃣ 启动服务docker compose -p litellm up -d5️⃣ 访问管理界面浏览器打开：http://localhost:4000用户名：admin密码：.env 里配置的 LITELLM_MASTER_KEY 从 Virtual Key 开始LiteLLM 的核心设计之一，就是用 Virtual Key 来统一管理、隔离使用者和模型资源。
2.4K10编辑于 2026-02-27- 来自专栏openclaw系列
OpenClaw 集成 LiteLLM Proxy：统一网关、成本追踪与智能路由
展开代码语言：TXTAI代码解释#安装pipinstall'litellm[proxy]'#快速启动(示例：直接代理ClaudeOpus)#需确保环境变量ANTHROPIC_API_KEY已设置litellm "${LITELLM_API_KEY}",//协议类型(LiteLLM模拟OpenAI接口)"api":"openai-completions",//定义可用模型及其元数据(可选，LiteLLM通常会自动发现 /<model-id-defined-in-litellm>"primary":"litellm/claude-opus-4-6"}}}}2.LiteLLM路由配置(config.yaml)在LiteLLM OpenClaw只关心逻辑模型名，具体的物理后端由LiteLLM决定。 ://github.com/BerriAI/litellm通过集成LiteLLM，OpenClaw从一个单纯的客户端进化为一个具备企业级治理能力的AI应用平台。
1.1K20编辑于 2026-03-18 - 来自专栏NLP/KG
快速上手 LiteLLM：打造高效、稳定、面向生产的 LLM 应用程序
LiteLLM快速使用 github:https://github.com/BerriAI/litellm https://docs.litellm.ai/docs/ LiteLLM 是一个 Python LiteLLM 代理 是 LiteLLM 模型 I/O 库的关键组件，旨在标准化对 Azure、Anthropic 和 OpenAI 等多种语言模型服务的 API 调用。 https://github.com/BerriAI/litellm.git cd litellm pip install 'litellm[proxy]' 启动服务： litellm 可参阅完整的参数文档 — config litellm-config.yml 此配置为 LiteLLM 代理 定义了要使用的模型列表，并详细指定了每个模型的信息。 每个条目都有 litellm_params，提供了 LiteLLM 与这些模型交互所需的参数。
11.4K10编辑于 2025-05-21 LiteLLM 供应链“软件恐怖袭击”始末：腾讯朱雀实验室 A.I.G 开源项目助力AI安全一键排查
近日，知名大模型网关工具 LiteLLM 遭遇供应链投毒，其 1.82.7和1.82.8 版本被植入恶意代码。 事件：LiteLLM 投毒始末第一步：暗度陈仓（攻破上游工具）攻击者首先入侵了LiteLLM的 CI/CD 流水线中依赖的容器漏洞扫描器 Trivy。 然后，当开发者执行pip install litellm或 pip install dspy 时，恶意代码会被同步下载到本地。 ● 下游依赖项目：任何将 LiteLLM 声明为依赖，并在构建时拉取了该版本的第三方软件包。风险排查与自查清单无论当前是否直接使用 LiteLLM，建议立即执行以下自查步骤。 1.检查环境感染情况在终端运行以下命令，确认是否中招：# 检查当前安装的 LiteLLM 版本pip show litellm 2>/dev/null | grep Version# 全局查找是否存在恶意的
43610编辑于 2026-04-13使用 LiteLLM 解决腾讯混元大模型与 AI 编程工具的兼容性问题
本文将详细介绍问题的根源以及如何通过LiteLLM代理优雅地解决这个问题。 解决方案技术选型考虑到需要在请求发送到混元之前进行拦截和修改，我选择使用LiteLLM作为代理层。 LiteLLM是一个优秀的LLM代理工具，支持：统一的API接口，兼容100+种LLM自定义回调（CustomLogger），可以在请求前后进行修改自动参数过滤和转换核心实现创建一个HunyuanMessageFixer ：展开代码语言：IniAI代码解释[program:litellm-proxy]command=/path/to/.venv/bin/python/path/to/proxy_handler.pydirectory =/path/to/hunyuan-proxyautostart=trueautorestart=truestdout_logfile=/path/to/logs/litellm-proxy.log在AI
77810编辑于 2026-01-02【做爆款视频必备】NarratoAI使用指南：用AI玩转短剧解说，小白也能秒变剪辑大神
大模型配置：LiteLLM帮你「通吃」所有AI 这玩意儿最牛的就是能对接各种大模型，不用挨个适配，LiteLLM一键统一： 打开config.toml配置文件，按模板填就行（抄作业版）： [app] # 视觉分析用的模型（比如阿里Qwen2-VL、Gemini） vision_llm_provider = "litellm" vision_litellm_model_name = "gemini/gemini -2.0-flash-lite" vision_litellm_api_key = "你的API密钥" # 文本生成用的模型（比如DeepSeek、GPT-4o） text_llm_provider = "litellm" text_litellm_model_name = "deepseek/deepseek-chat" text_litellm_api_key = "你的API密钥" API省钱小技巧
50010编辑于 2026-04-17- 来自专栏AI
[AI Mem0] 大语言模型：一站式集成多种顶级AI模型，提升工作效率
import Memoryos.environ["OPENAI_API_KEY"] = "your-api-key"config = { "llm": { "provider": "litellm import Memoryos.environ["GEMINI_API_KEY"] = "your-api-key"config = { "llm": { "provider": "litellm import Memoryos.environ["ANTHROPIC_API_KEY"] = "your-api-key"config = { "llm": { "provider": "litellm import Memoryos.environ["MISTRAL_API_KEY"] = "your-api-key"config = { "llm": { "provider": "litellm your-api-base-url"os.environ["AZURE_API_VERSION"] = "version-to-use"config = { "llm": { "provider": "litellm
73920编辑于 2024-07-23 狂揽22.6k星！这个开源工具让你一键调用100+大模型，开发效率直接起飞！
嗨，大家好，我是小华同学，关注我们获得“最新、最全、最优质”开源项目和高效工作学习方法 与其在不同厂商的API文档里反复横跳，不如用LiteLLM统一调用所有大语言模型！ 项目介绍LiteLLM 是由BerriAI团队开发的开源神器，它通过标准化OpenAI格式的API接口，让开发者可以无缝调用包括OpenAI、Azure、Anthropic、Hugging Face等在内的 调用方式完全统一：所有模型只需completion()函数即可调用，响应格式标准化为response.choices[0].message.content # 调用GPT-4与Claude3完全一致的写法from litellm 支持动态密钥生成和权限控制监控层Prometheus+Grafana监控体系，提供API延迟、成功率等23项核心指标扩展层开放式插件架构，每月新增5-10个模型平台支持五大应用场景企业级AI中台搭建通过LiteLLM 基础调用from litellm import completionresponse = completion( model="huggingface/bigcode-starcoder",
1.2K10编辑于 2025-05-16- 来自专栏山行AI
Rawdog——一个自动生成和执行py脚本的AI命令行界面助手
模型选择 Rawdog使用litellm进行完成，以'gpt-4'为默认。你可以通过修改~/.rawdog/config.yaml调整模型或指向其他提供者。 http://localhost:8000[3]，你可以将你的配置设置为： llm_base_url: http://localhost:8000 llm_model: openai/model # 以便litellm 知道它是一个兼容openai的端点 Litellm支持包括Azure、VertexAi和Huggingface在内的大量提供者。 ollama: https://ollama.ai/ [3] http://localhost:8000: http://localhost:8000/ [4] 他们的文档: https://docs.litellm.ai
93110编辑于 2024-02-26 - 来自专栏CoderJia的工作笔记
PandasAI：让数据分析变得会话化的强大工具
bar chart showing the salary of each person") 可在 exports\charts\ 目录下查看生成的图表： 4.切换其他LLM 安装 Pandasai-litellm 扩展： # Using poetry poetry add pandasai-litellm # Using pip pip install pandasai-litellm LiteLLM 支持但不限于以下 LLM，详情见https://docs.litellm.ai/docs/providers: OpenAI (gpt-3.5-turbo, gpt-4, etc.) Cohere Hugging Face 只需要代码中添加几行代码设置 LLM 即可切换 deepseek 大模型： import os import pandasai as pai from pandasai_litellm " # Example with deepseek llm = LiteLLM(model="deepseek/deepseek-chat") # Set your LLM configuration
2K10编辑于 2025-05-06 - 来自专栏开源服务指南
统一所有 LLM API：支持预算与速率限制 | 开源日报 No.229
BerriAI/litellmhttps://github.com/BerriAI/litellm Stars: 6.7k License: NOASSERTION litellm 是一个使用 OpenAI '] 中获取 跨多个部署（例如 Azure/OpenAI）的重试/回退逻辑 设置每个项目、API 密钥或模型 OpenAI 代理服务器的预算与速率限制 支持更多提供商，如有遗漏，请发起功能请求 通过 LiteLLM
1.8K10编辑于 2024-04-01 不过了吗？Claude Desktop 已悄悄支持第三方大模型，这意味着什么？
Connection 选择：Vertex AI 填写 GCP Project ID 填写 Region（如 us-central1） 通过 OAuth 授权登录 Google 账号 方法四：通过 LiteLLM 代理接入本地模型 如果你有本地跑的 Ollama、llama.cpp 等模型，需要通过 LiteLLM 做一个格式转换层（因为本地模型通常是 OpenAI 格式，而 Claude Desktop 需要 /v1/messages 格式）： # 安装 LiteLLM pip install litellm # 启动代理，将 Ollama 转为 Claude 格式 litellm --model ollama OpenRouter（支持 200+ 模型，有免费配额） Amazon Bedrock Google Vertex AI Azure AI Foundry 你自己公司的内部 LLM 网关 本地模型（通过 LiteLLM
1.6K10编辑于 2026-04-28- 来自专栏云鼎实验室的专栏
8 个高危漏洞拉响警报：Linux/Tomcat/ActiveMQ 等 4 月必修清单
https://github.com/NousResearch/hermes-agent/releases 八、 LiteLLM Proxy SQL 注入漏洞 漏洞概述： 腾讯云安全近期监测到关于LiteLLM LiteLLM是一款开源大语言模型统一接入网关与Python SDK，可通过兼容OpenAI的标准API接口，统一调度OpenAI、Anthropic、Google等100余种大模型服务。 据描述，该漏洞源于LiteLLM Proxy在API密钥验证路径中存在SQL注入缺陷。 https://github.com/BerriAI/litellm/releases/tag/v1.83.10-stable 2. 临时缓解方案： - 如无必要，避免将LiteLLM Proxy服务开放至公网 - 配置防火墙或网络规则，仅允许特定IP地址或IP段访问LiteLLM Proxy接口 - 对于任何在存在漏洞的版本上可通过互联网访问的
27310编辑于 2026-05-09 - 来自专栏AI进修生
Maestro + Qwen2 + DeepCoderV2：几秒钟生成一个应用程序（本地、快速、一次提示）
新特性： 支持Claude 3.5 Sonnet python maestro.py 兼容多个API 通过使用LiteLLM重新编写代码库，现在可以更轻松地选择您想要的模型。 首先安装LiteLLM： pip install litellm 运行脚本： python maestro-anyapi.py 支持GPT-4o 脚本已重新设计以支持GPT-4o的代码能力。
75400编辑于 2024-12-02 国产小龙虾方案实战：nanobot + 通义千问，钉钉上随时派活
nanobot — 上篇介绍过的超轻量 AI Agent 框架，4000 行代码，通过 LiteLLM 支持主流大模型，原生支持钉钉、飞书等十多种聊天渠道。 coding.dashscope.aliyuncs.com/v1" } }}验证连接：nanobot agent -m "你好，测试连接"第三步：开启联网搜索编辑 nanobot/providers/litellm_provider.py 4000 行代码，但扩展性不错：Skills 系统可以按需扩展能力——本文配置了 9 个技能，覆盖信息检索、文档处理、效率工具、数据分析、内容创作五大类钉钉/飞书/Slack 等渠道让你在手机上就能用LiteLLM
1.8K40编辑于 2026-03-12- 来自专栏AI进修生
最新开源！Cover Agent 自动生成代码！开源的Copilot！
• test_results.html：包含以下内容的结果表： • 测试状态 • 失败原因（如果适用） • 退出代码 • stderr • stdout • 生成的测试 使用其他 LLM 该项目使用 LiteLLM 按照 LiteLLM 说明 导出支持的 LLM 所需的任何环境变量。 2. 在调用 Cover Agent 时使用 --model 选项调用模型名称。 例如（如 LiteLLM 快速入门指南 中所示）： export VERTEX_PROJECT="hardy-project" export VERTEX_LOCATION="us-west" cover-agent
1.1K10编辑于 2024-12-02 - 来自专栏区块链安全要闻
重明链迹丨每周区块链安全要闻（0323-0329）
•LiteLLM供应链攻击威胁AI开发与加密钱包安全。•Solana多个项目发生RugPull，数千万流动性被抽走。•美英联合行动打击跨国加密"杀猪盘"诈骗网络。 供应链与基础设施攻击LiteLLM遭PyPI供应链投毒攻击恶意版本的LiteLLM（v1.82.7/1.82.8）在PyPI上存留约3小时，该Python库月下载量达数千万次。
27820编辑于 2026-04-01 让 AI 自己进化自己：深入 HyperAgents
兼容性：generate_loop.py里的torch.cuda.is_available()在没装PyTorch的环境会报错，改为try/except降级处理LiteLLMProxy集成：通过USE_LITELLM_PROXY 直接用如果你已经订阅了GitHubCopilot，可以用llm-proxy把请求代理过去——它基于LiteLLM，暴露OpenAI兼容接口，支持GPT-4o、Claude、Gemini等多个模型，无需额外申请 =TrueLITELLM_PROXY_API_BASE=http://localhost:4000LITELLM_PROXY_API_KEY=sk-1234#llm-proxy的masterkey设置USE_LITELLM_PROXY =True后，所有litellm.completion()调用都会走代理。 在llm-proxy的litellm_config.yaml里用model_group_alias做映射：展开代码语言：YAMLAI代码解释router_settings:model_group_alias
36300编辑于 2026-04-08
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号