当前位置： AI资讯 > 内文

给病历质量“找茬儿” 大模型还需炼就哪些本领？｜@攻城狮

2024-09-09 关键词： 病历质控 , 医疗大模型

近两年，随着各行业对大模型技术的探索，“质疑”的声音正在转向“尝试”，因此2024年也被称为“行业大模型元年”。在医疗行业，如何将大模型应用于智慧医院建设，提升医疗质量和服务水平，成为政府部门、医疗机构和医疗AI厂商们关心和热点话题。

近日，惠每科技受邀参加AICon 2024 全球人工智能开发与应用大会，分享惠每医疗大模型的最新进展。惠每科技算法专家凌鸿顺以“破解病历质控难题：医疗大模型质控优化策略”为题，介绍了惠每医疗大模型在病历质量管理场景的解决方案和优化策略。

病历质控场景优化策略

医疗机构管理向精细化转型的过程中，病历已成为评估医疗质量、保障患者安全和预防医疗纠纷的重要凭证，而病历书写不及时、不规范和不完整等问题却频频发生。病历质量管理已经成为各家医院的迫切需求，而尝试通过信息化工具拓展病历质量控制覆盖面和效率是一大趋势。

凌鸿顺表示，通过传统深度学习模型对文书中的关键时间点信息判断和简单语义信息的理解，即可解决病历书写及时性问题；对于病历文书的内容不一致、前后矛盾等规范性问题，需要信息系统具备跨字段类型理解文本内容和医疗知识对比的能力，大模型技术在此方面具有显著优势；而病历完整性的质控，则需要系统具备对长文本的理解能力和医疗知识推理能力，同样是大模型最佳的应用场景。

“基于大模型技术强大的文本理解和知识推理能力，我们针对临床书写问题，把它用在了病历质控工作中，并有效提升了病历质控的效率和准确性。”凌鸿顺介绍，惠每医疗大模型基于Transformer 架构，在模型训练优化方面采取了基座模型优化和大模型prompt 工程优化的策略。通过医疗知识注入、医疗任务指令跟随和直接偏好学习的方法，显著提高了大模型对病历中关键信息的提取和分析能力，能够更好地理解和执行医疗领域特定的任务。

凌鸿顺还提到，惠每科技制定了自动化Few-shot 示例的方案，通过初始化阶段的badcase 识别和迭代优化，以及相似度计算和多样性prompt 的加入，进一步提升了模型的预测效果和泛化能力。这一策略不仅减轻了筛选Few-shot prompt 的工作量，也为不同医院的特殊case 提供了快速修复的可能。

私有化部署实践

大模型的训练和优化使其在病历质控场景具备了理解能力和推理能力，但是在医院落地还面临着一个难题：私有化部署。

“出于对安全性和隐私性的考虑，医疗数据必须本地化储存和处理，因此大模型的应用必须在医院内部署服务器。”凌鸿顺表示，私有化部署是医院的实际现状，但大模型参数量动辄在十亿以上，对医院服务器硬件性能和大模型能力都提出了更高要求，价格高昂的GPU 价格也“劝退”了许多潜在用户。

为了解决大模型私有化部署的问题，惠每科技综合考虑了医院实际IT基础设施和GPU 实际需求，以及GPU 价格高昂和采购难度，最终确定了大模型实现CPU 上推理的方案。

凌鸿顺介绍，为了让大模型能够在CPU 上成功推理，惠每科技通过Flash Attention 、vLLM 、Mixture-of-Experts 和FasterTransformer 等推理优化方案，让大模型在CPU 上的推理准确性得到保障的同时，推理效率能够媲美甚至优于GPU 上的推理效果，解决了大模型在硬件资源和计算效率上的挑战。该方案大幅降低了大模型的落地成本，为更多医院提供了选择。

对于未来医疗大模型的应用，凌鸿顺也持乐观态度：模型蒸馏技术有望将大模型的效果转移到更小、更易于部署的模型上；自动化Few-shot 的进一步优化，将实现更高效、更准确的病历质控。同时，惠每科技也将尝试更多合作，进一步推动医疗AI 技术在医疗质量管理中的创新和应用，为医疗行业带来更多的价值和可能性。