基于改进Adaboost算法的句子相似性判断方法

基本信息

申请号 CN202110860567.6 申请日 -
公开(公告)号 CN113569553A 公开(公告)日 2021-10-29
申请公布号 CN113569553A 申请公布日 2021-10-29
分类号 G06F40/194(2020.01)I;G06F40/279(2020.01)I;G06F40/30(2020.01)I;G06N3/04(2006.01)I;G06N3/08(2006.01)I 分类 计算;推算;计数;
发明人 童瑶;苏锦钿 申请(专利权)人 广州芳禾数据有限公司
代理机构 深圳市鼎泰正和知识产权代理事务所(普通合伙) 代理人 缪太清
地址 510000广东省广州市天河区五山路371-1号28楼A847号
法律状态 -

摘要

摘要 本发明公开了一种基于改进Adaboost算法的句子相似性判断方法,利用预训练语言模型在学习大规模文本的语义知识方面的优势以及Adaboost算法在集成多个基学习器方面的优势,先通过公开语料集中的训练数据对多个不同的预训练语言模型进行独立训练和微调,目的是利用不同预训练语言中的先验知识和网络结构学习文本语义相似性的任务相关知识;接着,在Adaboost R2算法的基础上提出改进的Adaboost算法,并结合验证数据集计算各个模型的权重系数,并进行归一化。最后,根据权重系数将各个模型在测试数据集的预测结果进行线性求和,从而得到最终的句子相似性结果。