大模型研究日记：在医疗大语言模型的世界里 “打怪升级”

大家好，我是赛博解生酱，一个在生物医药和计算机交叉领域摸爬滚打多年的博士。个人在漫长的求学期间，接触过生物实验室也在电脑前敲击过代码，研究方向涉及医学影像以及分子设计；长久的交叉研究经历让我领会到计算在生物医药研究中的潜力，希望能在这一领域做出更多有意义的研究。目前，工作转型让我踏入医疗语言模型方向，这一热门领域存在大量挑战，今天在这里开启研究日记系列，和大家分享这段探索之旅，希望认识更多志同道合的朋友。

首先简单聊一下医疗LLM的价值，这一领域具有很好的潜力，受到了医药与AI相关领域的从业者的大量关注。纯医疗场景上除了C端外，在B端和G端有更大的想象空间，因此国内外大量高校以及企业均在进行医疗方向的LLM研究。但是，医疗LLM与传统的聊天对话存在重要差异，属于高壁垒的额垂直领域赛道。模型输出的每一个结论都可能影响到医生、管理者或者患者的决策，从而进一步影响患者的健康甚至生命。因此，保证模型输出正确的医疗知识至关重要。考虑到现在的大模型普遍存在幻觉问题，更需要对训练数据的质量以及可靠性进行严格把关。可以看出，纯计算机方向的大模型研究人员难以解决这一问题，必须有专业医生的参与。这里我主要聚焦于技术和应用方面进行探索分析，也欢迎大家在其他方面发表意见以及交流。

训练数据对大模型的意义如同烹饪用的食材，画家的颜料，建筑的基石。因此，日记系列的开篇主要关注医疗数据的构建和优化，目前我简单规划了以下几个方面的探索以及思考：

1. 数据清洗技术体系构建

医疗数据的问题很多，不同医院的检验报告格式不统一，电子病历里时间记录错乱、症状描述矛盾的情况也不少。这些问题会让模型学到错误信息，影响最终效果。 目前传统的数据清洗方法很难处理医疗数据的特殊性。医疗文本里专业术语多、缩写词复杂，语义模糊的地方还得结合上下文理解。此外，医疗知识每年都在更新，需要构建动态的医学知识库，这对清洗技术要求很高，构建标准化的数据清洗体系很有必要。这样才能及时修正错误数据，提高模型训练的稳定性和准确性，降低误诊风险。

2. 医学数据标注效率优化

为了弥补训练数据的不足，采用爬虫进行网络爬取或者采用其他模型构建数据是常见做法，但极大概率会引入医学错误，需要专业人员进行数据把关。但是，医学领数据标注是非常棘手的问题，目前仍非常依赖医生进行标注。即便有专业医生团队，但是医学术语多，一词多义、同义不同表述的情况常见，不同的医生可能会存在不同的标准。此外，标注过程必须严格保护患者隐私，遵循伦理规范。在技术上，标注很难兼顾质量和效率。人工标注质量高但速度慢，自动化工具又处理不好复杂的医学逻辑。主动学习算法虽然能筛选重要样本，但如何准确定义样本价值、避免标注偏差，仍是难题。

3. 医疗数据增强方法研究

医疗数据少，数据收集难，罕见病数据更少，这使得模型学不到足够特征，遇到罕见病容易误判。加上医疗数据涉及隐私，共享受限，数据不足的问题更突出。 数据增强技术要解决有效性、范式多样性和数量的问题。基于少量高质量的真实的数据，采用LLM自动构建数据，可以大幅扩充医疗数据集。这一广泛使用的增强方式也存在问题，即模型幻觉导致的医学知识错误。常用的解决方法依赖外部知识库，需要融合医学知识图谱，保证生成数据的准确性，否则会误导模型学习到错误的知识。

4. 提示优化策略设计

严格来说，提示词优化不仅仅属于医疗领域的研究问题，而是一个通用的问题。提示设计对模型输出影响很大，同样的问题，不同问法，模型回答差异明显。而且医疗场景多样，包括问诊、医疗文书生成、文书质控、科研咨询、健康宣教等，对提示的设计要求很高且多样。在数据构建优化方法，提示设计主要用于构建新的医学数据，以及利用模型对现有数据进行质控或者优化。而技术挑战在于，如何平衡提示的单个任务性能和泛化能力。是否应该根据任务类型和场景构建提示模板，需要精准分析不同场景和任务的表现。目前，Autoprompt和强化学习算法（RL-prmpt）在这一领域取得了不错的效果，但是仍存在流程繁琐的问题。

以上是我对医疗LLM数据研究的初步思考，未来会结合个人的研究实践继续完善和分析。希望通过这个日记系列，与感兴趣的朋友一起探索和研究，也欢迎大家发表评论和交流。