
当Google DeepMind推出Gemma4小模型之后,本地推理实现了质的飞跃;
首先我们要了解一下Gemma是什么?
Gemma 是 Google DeepMind 推出的轻量级开源大语言模型家族,基于 Gemini 技术体系打造,主打本地部署、高效推理、开源商用友好
其实Google DeepMind早在2024年已经发布了第一版小模型:Gemma 1
2026年4月发布 Gemma4,四款型号,覆盖全场景
关键升级:原生 Agent 能力(Function Calling、多步推理、JSON 输出)、多模态(图像 / 音频 / 视频帧)、Apache 2.0 开源
型号 | 总参数 | 激活参数 | 架构 | 上下文 | 核心优势 | 适用场景 |
|---|---|---|---|---|---|---|
E2B | 5.1B | 2.3B | Dense | 128K | 极低内存 | 手机、IoT、边缘设备 |
E4B | 8B | 4.5B | Dense | 128K | 平衡性能 | 笔记本、本地开发 |
26B A4B | 25.2B | 3.8B | MoE | 256K | 极快推理 | 消费级 GPU、批量任务 |
31B Dense | 30.7B | 30.7B | Dense | 256K | 最强性能 | 专业 GPU、精调基座 |
第一步:安装Ollama
Ollama 是一款让你在本地电脑上一键运行、管理大语言模型(LLM)的开源工具
本质:一个本地 LLM 运行时 + 模型管理工具,底层封装了 llama.cpp、vLLM 等推理引擎,屏蔽底层技术细节
下载地址:https://ollama.com/
mac安装命令:
curl -fsSL https://ollama.com/install.sh | shwindows安装命令:
irm https://ollama.com/install.ps1 | iexlinux安装命令:
curl -fsSL https://ollama.com/install.sh | sh
安装完成之后,在电脑终端输入下面命令 查看效果,输出对应版本代表安装成功;
ollama --version
第二步:下载OpenClaw 也就是所谓的选“虾苗”
建议选原生“虾苗” OpenClaw;不为别的只为原创,所有大厂字研Claw的鼻祖:
https://github.com/openclaw/openclaw
npm install -g openclaw@latest
默认选 QuickStart

选择 Ollama(Cloud and local open models)

Enter之后可以选

-cloud 后缀模型第三步: OpenClaw集成Ollama本地大模型

个人笔记本建议选择:gemma4:e4b
选择本地模型之后 继续配置IM Channel 可以忽略;不会影响本地Ollama使用;

配置飞书

选择Local模式 可以直接跳过


可暂时跳过配置skill 选NO
openclaw models list
可以使用openclaw切换本地模型
openclaw models set ollama/gemma4:e4b
启动龙虾🦞gateway命令:
openclaw gateway --daemon开启龙虾🦞TUI界面
openclaw tui
下期详细介绍基于Gemma4+OpenClaw的使用案例!谢谢