大模型开发工程师 roadmap

大模型开发工程师应该是接下来几年最火的方向之一，今天逛github发现一个很好的学习导图，是一个专业的大模型开发工程师的学习路线图：

我翻译了一下，供英文不是很好的同学参考：

1. 运行LLMs：
   • LLM APIs
   • 开源LLMs（Open-source LLMs）
   • 提示工程（Prompt engineering）
   • 结构化输出（Structuring outputs）
2. 构建向量存储：
   • 摄入文档（Ingesting documents）
   • 分割文档（Splitting documents）
   • 嵌入模型（Embedding models）
   • 向量数据库（Vector databases）
3. 检索增强生成（Retrieval Augmented Generation）：
   • 编排器（Orchestrators）
   • 检索器（Retrievers）
   • 内存（Memory）
   • 评估（Evaluation）
4. 高级RAG（Advanced RAG）：
   • 查询构建（Query construction）
   • 代理和工具（Agents and tools）
   • 后处理（Post-processing）
   • 编程LLMs（Program LLMs）
5. 推理优化（Inference optimization）：
   • 闪电注意力（Flash Attention）
   • 键值缓存（Key-value cache）
   • 投机解码（Speculative decoding）
6. 部署LLMs：
   • 本地部署（Local deployment）
   • 演示部署（Demo deployment）
   • 服务器部署（Server deployment）
   • 边缘部署（Edge deployment）
7. 安全LLMs：
   • 提示黑客（Prompt hacking）
   • 后门（Backdoors）
   • 防御措施（Defensive measures）