克拉玛依市住房和建设局网站,关键词权重,中国电信软件开发工程师待遇,个人导航网站如何赚钱一个不知名大学生#xff0c;江湖人称菜狗 original author: Jacky Li Email : 3435673055qq.com Time of completion#xff1a;2023.3.5 Last edited: 2023.3.5 导读 本文使用SPANNER方式实现对中医药进行实体识别#xff0c;采用focal loss 进行优化。 本文章作用防止安静… 一个不知名大学生江湖人称菜狗 original author: Jacky Li Email : 3435673055qq.com Time of completion2023.3.5 Last edited: 2023.3.5 导读 本文使用SPANNER方式实现对中医药进行实体识别采用focal loss 进行优化。 本文章作用防止安静在以后的生活中遇到病不去看病导致的身体难受可以利用该系统对中药进行辨认识别帮助安静快速病好 目录
实验目的
模型架构部分
模型训练优化部分
不同方案测试集F1值比较部分
作者有言 知识图谱是近年来知识管理和知识服务领域中出现的一项新兴技术,它为中医临床知识的关联、整合与分析提供了理想的技术手段。我们基于中医医案等临床知识源,初步建立了由疾病、证候、症状、方剂、中药等核心概念所构成的中医临床知识图谱,以促进中医临床知识的互融互通,揭示中医方证的相关关系,辅助中医临床研究和临床决策。 中医药学是一门古老的医学,历代医家在数千年的实践中积累了丰富的临床经验,形成了完整的知识体系,产生了海量的临床文献。近年来,国家对中医药事业大力扶持,中医药领域的临床实践和临床研究都取得了长足的发展。中医临床方法在国际社会得到广泛认可,传播到183个国家和地区。 利用信息技术手段开展中医临床知识的管理和服务是一项开创性的探索,在临床上具有极大的应用价值。近年来,知识图谱(Knowledge Graph)成为知识管理领域中的一项新兴技术,因其简单易学、可扩展性强、支持智能应用等优点而得到广泛应用。它有助于实现临床指南、中医医案以及方剂知识等各类知识的关联与整合,挖掘整理中医临证经验与学术思想,实现智能化、个性化的中医药知识服务,因此在中医临床领域具有广阔的应用前景。
实验目的 任务目的是从中医药期刊文献的题目和摘要中识别中医药相关实体实体类型具体包括中医诊断、西医诊断、中医证候、临床表现、中医治则、方剂、中药、其他治疗等
提供的训练数据为BIO格式如 现 O 头 O 昏 O 口 B-临床表现 苦 I-临床表现 训练集、验证集和测试集同分布长度范围为[0,150]数据平均长度约37 各标签数量分布非常不均匀出现最多的的实体是临床表现、西医诊断、中药 中医诊断、中医治则、其他治疗实体较少可以考虑补充有相关实体的数据集 模型架构部分
三层架构底层句子表示层采用ernie-health-chinese百度开源医疗预训练语言模型进行句子向量表示第二层LSTM层将第一层输出作为Bi-LSTM层输入让模型学习前后依赖信息第三层SPAN预测将第二层LSTM输出只取序列输出放到全连接层1预测实体头输出shape为[batch_size , seq_len , num_labels]然后实体头预测结果和第二层LSTM输出只取序列输出输入shape[batch_size , seq_len , hidden_size * 21]放到全连接层2预测实体尾。 模型训练优化部分
根据数据探索性分析损失函数采用多分类的focal losslabel smooth好像也行但没有实现降低模型对预测实体标签类别有不同倾向减少标签分类数量不平衡的影响提高模型泛化性fgm/pgd强化训练训练更平稳减少模型过拟合情况。优化器采用adamW。
Focal loss是最初由何恺明提出的最初用于图像领域解决数据不平衡造成的模型性能问题。 不同方案测试集F1值比较部分
方案(不包括对抗训练和数据集修正)测试集F1值BERTLSTMCRF(baseline)0.73919Ernie-health-chBi-LSTMCRF(BIO)0.78621Ernie-health-chMLP(SPAN)0.80161Nezha-wwm-large-chineseBi-LSTMSPAN_predict(focal loss)0.80034Ernie-health-chBi-LSTMSPAN_predict(focal loss)0.81412
对抗训练FMG/PGD提升1个点左右数据集修正补充漏标为主提升3-4个点
作者有言 如果需要代码请私聊博主博主看见回。如果感觉博主讲的对您有用请点个关注支持一下吧将会对此类问题持续更新……
