首页/ 北京诺道认知医学科技有限公司/ 专利详情

基于BERT模型的医学应用模型训练方法及装置

基本信息

申请号 CN202011159163.6 申请日 -
公开（公告）号 CN112347773A 公开（公告）日 2021-02-09
申请公布号 CN112347773A 申请公布日 2021-02-09
分类号 G06F40/284(2020.01)I;G06F40/30(2020.01)I 分类 计算；推算；计数;
发明人 刘静;周永杰;王则远 申请（专利权）人 北京诺道认知医学科技有限公司
代理机构 北京路浩知识产权代理有限公司 代理人 苗晓静
地址 100161北京市丰台区丰台北路18号3号楼恒泰中心C座801
法律状态 -

摘要

摘要 本发明实施例提供的一种基于BERT模型的医学应用模型训练方法及装置，该方法包括：获取循证医学训练样本；对所述循证医学训练样本进行实体词汇屏蔽，得到MLM训练样本；利用所述MLM训练样本对BERT模型进行MLM训练，得到PICO‑BERT模型；其中，所述实体词汇对应于循证医学中具有实际意义的实体；利用屏蔽实体词汇得到的MLM训练样本进行MLM训练，得到PICO‑BERT模型，从而增强模型的整体语义表征能力，使得训练的PICO‑BERT模型语义理解能力更强，对特定领域复杂场景的自然语言问题处理能力更强，能够更好地在医学领域适用，提高医学领域特定研究场景下的自然语言的理解能力。