基于预训练语言模型的无监督语法推导方法、装置和介质
基本信息
申请号 | CN202110102374.4 | 申请日 | - |
公开(公告)号 | CN112800754A | 公开(公告)日 | 2021-05-14 |
申请公布号 | CN112800754A | 申请公布日 | 2021-05-14 |
分类号 | G06F40/253;G06N3/08 | 分类 | 计算;推算;计数; |
发明人 | 孙晓飞;韩庆宏 | 申请(专利权)人 | 浙江香侬慧语科技有限责任公司 |
代理机构 | 北京国科程知识产权代理事务所(普通合伙) | 代理人 | 曹晓斐 |
地址 | 311121 浙江省杭州市余杭区余杭街道文一西路1818-2号9幢903室 | ||
法律状态 | - |
摘要
摘要 | 本发明公开了一种基于预训练语言模型的无监督语法推导方法、装置及存储介质,属于语言处理领域。该方法包括:利用预训练语言模型得到给定句子中每个词的特征表示;根据特征表示计算得到给定句子中每相邻两个词之间的语法距离;根据语法距离得到给定句子的语法树。本发明的应用通过利用现有预训练语言模型进行无监督式语法推导,将给定的句子组织为一棵语法树,避免额外标注数据以及人工设计新语言模型,降低了训练开销。 |
