环境配置# 创建虚拟环境python -m venv openbuddy_envsource openbuddy_env/bin/activate # Linux/Mac# . 下载 OpenBuddy 模型选择 OpenBuddy-Zephyr-7B(约 14GB,适合 12GB 显存,需开启 CPU offload):# download_model.pyfrom transformers import AutoTokenizer, AutoModelForCausalLMmodel_name = "OpenBuddy/openbuddy-zephyr-7b-v14.1"# 下载到本地目录 /openbuddy_local")tokenizer.save_pretrained("./openbuddy_local")print("Model saved locally.")3. OpenBuddy 完全没有外部 API 调用,从网络层面可切断外网。
-70B OpenBuddy 78.21 77.37 87.51 69.30 开源 - Llama-2-13B-Chat Meta 77.49 71.97 85.54 75.16 开源 12 360GPT_S2 从第一轮到第二轮,有不少模型效果都有下降,部分下降比较多 (如,Llama-2-13B-Chat,11.06个点);而一些模型相对鲁棒,且表现较为一致(如,ChatGLM2-Pro、MiniMax、OpenBuddy -70B OpenBuddy 77.37 开源 - Llama-2-13B-Chat Meta 71.97 开源 12 360GPT_S2_V94 360 71.45 闭源 13 Chinese-Alpaca2 -70B OpenBuddy 87.51 开源 5 ChatGLM2-Pro 清华&智谱AI 87.22 闭源 6 Baichuan2-13B-Chat 百川智能 85.87 开源 7 文心一言4.0 -70B OpenBuddy 69.30 开源 14 MiniMax-Abab5.5 MiniMax 63.82 闭源 4.总结 为何中文大模型在SC-Safety基准上与ChatGPT3.5差距较小
AI79.4376.5384.3677.45开源9Baichuan2-13B-Chat百川智能78.7874.7085.8775.86开源10Qwen-7B-Chat阿里巴巴78.6477.4985.4372.77开源11OpenBuddy-Llama2 从第一轮到第二轮,有不少模型效果都有下降,部分下降比较多 (如,Llama-2-13B-Chat,11.06个点);而一些模型相对鲁棒,且表现较为一致(如,ChatGLM2-Pro、MiniMax、OpenBuddy Pro清华&智谱AI77.16闭源8ChatGLM2-6B清华&智谱AI76.53开源9Baichuan2-13B-Chat百川智能74.70开源10Qwen-7B-Chat阿里巴巴77.49开源11OpenBuddy-Llama2 GPT4OpenAI91.22闭源️AndesGPTOPPO90.81闭源讯飞星火(v2.0)科大讯飞89.78闭源Yi-34B-Chat零一万物88.07开源-gpt-3.5-turboOpenAI87.81闭源4OpenBuddy-Llama2 智谱AI74.98闭源10360GPT_S2_V9436073.12闭源11Qwen-7B-Chat阿里巴巴72.77开源12Chinese-Alpaca2-13Byiming cui70.39开源13OpenBuddy-Llama2
国产顶尖大模型开源版本 官网:https://deepseek.com Llama3-zh 亮点:Meta官方中文优化版本 GitHub:https://github.com/meta-llama/llama3 OpenBuddy 亮点:支持80+语言的多语种模型 GitHub:https://github.com/openbuddy-ai 项目总结 MiniMind的三大核心价值: 教学价值:完整呈现大模型训练全流程,最佳学习实践
WizardLM[57]• RWKV[58] 模型使用 rwkv.cpp[59]• bloom.cpp[60]• Chinese LLaMA / Alpaca[61]• Vigogne (French)[62]• OpenBuddy github.com/ymcui/Chinese-LLaMA-Alpaca [62] Vigogne (French): https://github.com/bofenghuang/vigogne [63] OpenBuddy (多语言): https://github.com/OpenBuddy/OpenBuddy [64] Pygmalion 7B / Metharme 7B: https://github.com/ggerganov
其中包括,TensorRT-LLM、OpenVINO、OpenCompass、XTuner、LLaMA-Factory、Firefly、OpenBuddy、vLLM、Ollama等。
在开源社区中,已有非常多的基于 LLaMA 产出的模型,包括进行续训 / SFT(如 Alpaca、Vicuna、WizardLM、Platypus、StableBegula、Orca、OpenBuddy
OpenBuddy 致力于面向全球用户提供强大的多语言聊天模型,强调对话式 AI 对英语、中文和其他语言的无缝多语言支持。
34b-chat 512 2.32 66.72 1024 1.76 69.10 2048 1.05 71.34 4096 0.47 78.72 8192 0.31 (2*A100) 47.01+65.03 openbuddy-zephyr
gpt-4o、谷歌gemini、百度文心一言、阿里通义千问、百川、讯飞星火、商汤senseChat、minimax等商用模型, 以及qwen2.5、llama3.1、glm4、书生internLM2.5、openbuddy
['en', 'zh'] ['chat', 'vision'] True LLM OpenBuddy