一种基于终生学习的文本分类方法

基本信息

申请号 CN202010542045.7 申请日 -
公开(公告)号 CN111723203A 公开(公告)日 2020-09-29
申请公布号 CN111723203A 申请公布日 2020-09-29
分类号 G06F16/35(2019.01)I 分类 计算;推算;计数;
发明人 刘雨松 申请(专利权)人 苏州意能通信息技术有限公司
代理机构 江苏昆成律师事务所 代理人 苏州意能通信息技术有限公司
地址 215000江苏省苏州市工业园区若水路388号E0202室
法律状态 -

摘要

摘要 本申请提供一种基于终生学习的文本分类方法,先将文本信息通过预训练语言模型进行向量化处理,得到所述文本信息中的各个中文单词的词向量;再将所述中文单词的词向量输入深度神经网络模型,得到文本分类结果;如果不是训练模式则直接预测结果,如果为训练模式则进行网络参数更新;如果是首个任务,则进行常规的采用梯度下降法进行神经网络的参数更新,如果不是首个任务,是进行数据更新/版本迭代,本发明采用权值修改的方法进行神经网络参数更新,经验证,更新一条数据仅需要几秒钟、更新1‑2万条数据也只需要不到一小时的时间,大大的减少了深度神经网络模型版本迭代所需要的时间。