基于裁判文书的双向编码器表征量模型优化方法和装置

基本信息

申请号 CN202011217507.4 申请日 -
公开(公告)号 CN112347738A 公开(公告)日 2021-02-09
申请公布号 CN112347738A 申请公布日 2021-02-09
分类号 G06F40/126(2020.01)I; 分类 计算;推算;计数;
发明人 阎守卫 申请(专利权)人 平安直通咨询有限公司上海分公司
代理机构 广州华进联合专利商标代理有限公司 代理人 姜晓云
地址 200040上海市静安区常熟路8号裙房4层A室
法律状态 -

摘要

摘要 本申请涉及人工智能,提供了一种基于裁判文书的双向编码器表征量模型优化方法和装置。所述方法包括:根据初始双向编码器表征量模型,确定出与法律裁判文书数据对应的初始预训练模型。获取根据法律裁判文书数据确定的预设个数的案由类别,并为各案由类别添加对应的类别标签。基于类别标签从法律裁判文书数据中提取出对应的训练数据集,并对训练数据集进行数据预处理。基于预处理后的训练数据集,对确定出的初始预训练模型的特定超参数进行优化训练,得到优化后的双向编码器表征量模型。采用本方法实现了根据优化后的双向编码器表征量模型对法律裁判文书的自然语言表征,提升双向编码器表征量模型在裁判文书所属的法律知识领域的应用效果。