基于预训练语言模型的无监督语法推导方法、装置和介质

基本信息

申请号 CN202110102374.4 申请日 -
公开(公告)号 CN112800754A 公开(公告)日 2021-05-14
申请公布号 CN112800754A 申请公布日 2021-05-14
分类号 G06F40/253;G06N3/08 分类 计算;推算;计数;
发明人 孙晓飞;韩庆宏 申请(专利权)人 浙江香侬慧语科技有限责任公司
代理机构 北京国科程知识产权代理事务所(普通合伙) 代理人 曹晓斐
地址 311121 浙江省杭州市余杭区余杭街道文一西路1818-2号9幢903室
法律状态 -

摘要

摘要 本发明公开了一种基于预训练语言模型的无监督语法推导方法、装置及存储介质,属于语言处理领域。该方法包括:利用预训练语言模型得到给定句子中每个词的特征表示;根据特征表示计算得到给定句子中每相邻两个词之间的语法距离;根据语法距离得到给定句子的语法树。本发明的应用通过利用现有预训练语言模型进行无监督式语法推导,将给定的句子组织为一棵语法树,避免额外标注数据以及人工设计新语言模型,降低了训练开销。