Digital Health Insider: 利用大语言模型从临床笔记中进行零样本医学本体扩展

论文信息

标题 (Title): Utilizing Large Language Models for Zero-Shot Medical Ontology Extension from Clinical Notes

作者 (Authors): Guanchen Wu, Yuzhang Xie, Huanwei Wu, Zhe He, Hui Shao, Xiao Hu, Carl Yang

机构 (Affiliation): 埃默里大学 (Emory University), 天普大学, 佛罗里达州立大学

发表年份 (Year): 2025 (Nov 20)

原文链接 (URL): arXiv:2511.16548v1

结构化摘要 (Structured Abstract)

背景/目标 (Background/Objective): 随着医学知识的快速演变，现有的医学本体（Ontologies）需要及时更新以包含新概念（如 COVID-19）。临床笔记蕴含丰富的患者观察和新术语，是本体扩展的理想来源，但因其非结构化特征和隐私敏感性（PHI），长期未被充分利用。本研究旨在解决如何安全、自动地从非结构化临床笔记中提取新医学实体并将其整合进层级本体的问题。

方法 (Methods): 提出了 CLOZE (CLinical Notes Ontology Zero-shot Extension) 框架。这是一个无需训练数据的零样本两阶段流水线：(1) 医学实体提取：利用部署在本地的 LLaMA-3 模型作为代理，先进行去标识化（去除 PHI），再提取疾病实体；(2) 层级本体扩展：结合生物医学预训练模型（SapBERT）进行语义搜索，配合大模型代理进行递归关系推理（同义、子集或无关），将新实体插入正确层级。

结果 (Results): 在包含 100 份真实标注临床笔记的数据集上，CLOZE 在去标识化任务上超越了 PhysioNet 基线（F1 0.62 vs 0.28）；在本体扩展任务中，相比传统的单步 LLM 或仅基于嵌入的方法，CLOZE 的精度从 43.1% 显著提升至 79.6%。

结论 (Conclusion): CLOZE 成功证明了结合“语义嵌入检索”与“LLM 递归推理”可以在零样本且保护隐私的前提下，高效处理复杂的医学本体层级扩展任务，为医疗信息学的自动化知识库构建提供了新范式。

1. 引言 (Introduction)

1.1. 研究背景与核心问题 (Research Background & Problem Statement)

背景：本体（Ontologies）是生物医学领域知识标准化的基石（如 SNOMED CT, Disease Ontology）。然而，医学知识更新迅速，传统的本体维护依赖人工，滞后且昂贵。

现象：临床笔记（Clinical Notes）包含了比结构化电子病历（EHR）更丰富的细节和新出现的医学概念。

核心问题：

非结构化与隐私：临床笔记是非结构化文本，且充满敏感的患者隐私信息（PHI），难以直接用于公共本体构建。

层级复杂性：现有的方法（规则或传统机器学习）难以处理复杂的本体层级关系（例如区分“肺炎”是“呼吸道感染”的子集）。

数据稀缺：缺乏大规模标注的“临床笔记-本体对齐”数据集，限制了监督学习方法的应用。

1.2. 文献综述与研究缺口 (Literature Review & Research Gap)

现有方法：

规则与统计方法：依赖共现分析或预定义模式，缺乏泛化能力，难以处理深层层级。

学习型方法：依赖大量标注数据，且通常是“黑盒”，缺乏可解释性。

LLM 方法：虽然 LLM 展现了零样本能力，但直接将大本体输入 LLM 会超出上下文窗口，且 LLM 在处理深层逻辑结构时易产生幻觉（Hallucination）。

研究缺口 (Gap)：目前尚无针对临床笔记的、零样本且保护隐私的端到端本体扩展框架。特别是缺乏能够精准处理复杂层级插入位置的自动化机制。

1.3. 研究目标与核心假设 (Objectives & Hypotheses)

目标：开发 CLOZE 框架，无需任何训练数据（Zero-shot），即可从原始临床笔记中提取新概念并将其准确安置在现有本体树的正确节点下。

核心假设：

通过将任务分解为“去标识化”、“实体提取”和“递归式层级推理”，可以克服 LLM 的上下文限制和隐私风险。

结合领域特定的语义嵌入（SapBERT）与通用 LLM 的推理能力，可以显著提高本体扩展的精度。

2. 研究设计与方法 (Methodology)

2.1. 研究范式与方法论 (Research Paradigm & Methodology)

本研究采用设计科学 (Design Science) 与 神经符号 (Neuro-symbolic) 混合策略。

CLOZE 框架的两大模块：

医学实体提取 (Medical Entity Extraction)：

Agent 1 (去标识化)：使用 LLaMA-3-70B-Instruct，通过 Prompt 识别并掩盖 18 类 PHI（如姓名、日期），输出 JSON 格式以提高可追溯性。

Agent 2 (实体提取)：在去敏文本上运行，提取疾病相关的医学概念。

层级本体扩展 (Hierarchical Ontology Extension)：

策略：递归式“定位-推理”循环（Recursive Search）。

步骤：

Embedding 匹配：使用 SapBERT 计算新实体 (

 $e^{n e w}$

) 与当前本体层级节点 (

 $E_{l}$

) 的余弦相似度，找到最相似的候选节点 (

 $e^{*}$

)。

Agent 3 (关系判定)：LLM 判断

 $e^{n e w}$

与

 $e^{*}$

的关系：

Equivalence (等价)：概念已存在，停止。

Subsetting (子集)：

 $e^{n e w}$

更具体，进入下一层级（Children of

 $e^{*}$

）继续递归。

Neither (无关)：尝试其他分支（但在本算法中主要用于终止当前路径）。

插入：若判定为 Subsetting 且在下一层无更优匹配，则将

 $e^{n e w}$

作为

 $e^{*}$

的子节点插入。

关键解决方案：此方法解决了上下文窗口限制问题，不再将整个本体输入 LLM，而是逐层检索和推理。

2.2. 数据来源与样本 (Data Source & Sample)

临床笔记：来自美国某大型医院的 100 份全标注临床笔记。数据稀缺且珍贵，由医学专家手动标注了所有 PHI 实体，用于评估去标识化性能。

基础本体：使用 Disease Ontology (DO) 作为种子本体。

隐私保护：所有 LLM（LLaMA-3）均为本地部署或通过 Azure OpenAI 的 HIPAA 合规环境运行，确保数据不出域。

2.3. 操作化与测量 (Operationalization & Measurement)

去标识化评估：Precision, Recall, F1 score（对比人工标注的 PHI）。

实体提取评估：使用模糊匹配（Fuzzy Matching）将提取词映射到 DO 术语作为近似真值进行评估。

本体扩展评估：

LLM 自动评估：使用 GPT-4-0613 作为裁判，判断新插入的三元组关系是否正确。

人类专家评估：两名生物医学背景专家对采样的 100 个新节点进行评分（相关性、准确性、重要性）。

3. 结果与发现 (Results & Findings)

3.1. 主要发现概述 (Overview of Key Findings)

CLOZE 框架在保护隐私的前提下，展现了优越的零样本性能。特别是通过“SapBERT 引导检索 + LLM 递归推理”的组合，大幅解决了传统 LLM 在长尾医学概念和深层级结构上的推理错误。

3.2. 关键数据与图表解读 (Interpretation of Key Data & Figures)

去标识化性能 (Table I)：

LLaMA-3-70B (Ours) 达到了 0.62 的 F1 分数，显著优于传统的规则基线 PhysioNet (F1 0.28) 和较小的 LLaMA-3-8B (F1 0.50)。这证明了大模型在理解上下文以识别敏感信息方面的优势。

本体扩展性能 (Table III - 核心结果)：

对比基线：

LLM-Onetime (一次性输入片段): Precision 38.9%

SapBERT+LLM-Onetime (仅嵌入匹配): Precision 43.1%

SapBERT+LLM-Hierarchical (Ours): Precision 79.6%

解读：引入 SapBERT 进行语义锚定，再配合 LLM 进行逐层逻辑推理，使准确率几乎翻倍。单纯依赖 LLM 会迷失在巨大的搜索空间中，而单纯依赖 SapBERT 无法理解细微的层级关系（如“属于” vs “相关”）。

人工评估 (Table IV)：

CLOZE 在准确性 (Accuracy) 维度获得 2.00/2.00 的满分评级（相对评分），而基线仅为 0.67-1.53。这验证了自动化评估与人类专家判断的一致性。

4. 讨论 (Discussion)

4.1. 结果的深度解读 (In-depth Interpretation of Results)

为何有效？：CLOZE 的成功在于解耦了“搜索”与“推理”。

传统的 RAG 或 Embedding 方法只能做“语义相似度”，容易将“病毒性肺炎”和“细菌性肺炎”混淆为同级，而无法推断父子关系。

CLOZE 利用 SapBERT 缩小搜索范围（Search），利用 LLM 强大的逻辑能力（Reasoning）处理关系判定（Is-a vs. Same-as），这种神经符号式的分层逼近是解决复杂本体结构的关键。

隐私与实用性的平衡：实验表明，本地部署的 LLaMA-3-70B 足以胜任去敏任务，这消除了医疗机构应用 LLM 的最大合规障碍。

4.2. 理论贡献 (Theoretical Contributions)

提出了一种零样本递归本体扩展范式，打破了以往依赖大量训练数据的限制。

验证了通用大模型（General LLM）与领域专用小模型（SapBERT）协同工作的有效性，为垂直领域的知识库构建提供了架构参考。

4.3. 实践启示 (Practical Implications)

低成本落地：医院无需训练自己的大模型，仅需部署推理服务即可自动维护知识库。

实时更新：该框架可以作为医疗系统的后台进程，持续从每日产生的临床笔记中挖掘新知，辅助 CDSS（临床决策支持系统）保持最新状态。

4.4. 局限性与未来研究 (Limitations & Future Research)

样本量限制：受限于隐私数据获取难度，仅在 100 份笔记上验证，未来需扩大规模。

计算开销：递归搜索（Recursive Search）可能导致对 LLM 的调用次数随本体深度指数级增加，需优化推理效率。

错误传播：第一步实体提取的错误会级联影响后续本体插入，需引入纠错机制。

5. 结论 (Conclusion)

本文提出的 CLOZE 框架通过整合本地化 LLM 代理与生物医学语义嵌入，成功解决了从非结构化临床笔记中提取知识并扩展医学本体的难题。其核心贡献在于设计了一套保护隐私、无需训练数据且能精准处理复杂层级关系的自动化流程。实验数据表明，该方法在准确率和语义一致性上远超现有基线，为构建动态演进的医疗知识系统提供了强有力的技术支撑。

6. 核心参考文献 (Core References)

SapBERT: Liu, F., Shareghi, E., Meng, Z., et al., "Self-alignment pretraining for biomedical entity representations," Bioinformatics (2020). [用于语义嵌入的核心模型]

Disease Ontology (DO): Baron, J. A., et al., "The do-kb knowledgebase: a 20-year journey developing the disease open science ecosystem," Nucleic acids research (2024). [基础本体来源]

LLaMA-3: Meta AI. (文中使用了 LLaMA-3-70B-Instruct 作为核心推理与去敏代理).

Phrase2Onto: Pour, M. A. N., et al., "Phrase2onto: a tool to support ontology extension," Procedia Computer Science (2023). [传统统计方法的对比基线]

PhysioNet De-identification: Neamatullah, I., et al., "Automated de-identification of free-text medical records," BMC medical informatics and decision making (2008). [去标识化任务的对比基线]

–EOF–
转载须以超链接形式标明文章原始出处和作者信息及版权声明.

利用大语言模型从临床笔记中进行零样本医学本体扩展