一种基于终生学习的文本分类方法
基本信息
申请号 | CN202010542045.7 | 申请日 | - |
公开(公告)号 | CN111723203A | 公开(公告)日 | 2020-09-29 |
申请公布号 | CN111723203A | 申请公布日 | 2020-09-29 |
分类号 | G06F16/35(2019.01)I | 分类 | 计算;推算;计数; |
发明人 | 刘雨松 | 申请(专利权)人 | 苏州意能通信息技术有限公司 |
代理机构 | 江苏昆成律师事务所 | 代理人 | 苏州意能通信息技术有限公司 |
地址 | 215000江苏省苏州市工业园区若水路388号E0202室 | ||
法律状态 | - |
摘要
摘要 | 本申请提供一种基于终生学习的文本分类方法,先将文本信息通过预训练语言模型进行向量化处理,得到所述文本信息中的各个中文单词的词向量;再将所述中文单词的词向量输入深度神经网络模型,得到文本分类结果;如果不是训练模式则直接预测结果,如果为训练模式则进行网络参数更新;如果是首个任务,则进行常规的采用梯度下降法进行神经网络的参数更新,如果不是首个任务,是进行数据更新/版本迭代,本发明采用权值修改的方法进行神经网络参数更新,经验证,更新一条数据仅需要几秒钟、更新1‑2万条数据也只需要不到一小时的时间,大大的减少了深度神经网络模型版本迭代所需要的时间。 |
