基于Bi-GRU和字向量的大规模新闻文本的端到端分类方法
基本信息
| 申请号 | CN201810426304.2 | 申请日 | - |
| 公开（公告）号 | CN108846017A | 公开（公告）日 | 2018-11-20 |
| 申请公布号 | CN108846017A | 申请公布日 | 2018-11-20 |
| 分类号 | G06F17/30;G06F17/27;G06N3/04 | 分类 | 计算；推算；计数; |
| 发明人 | 李雄;张传新;刘春阳;张旭;王萌;王慧;王利军;李磊 | 申请（专利权）人 | 北京天润基业科技发展股份有限公司 |
| 代理机构 | 北京慧泉知识产权代理有限公司 | 代理人 | 国家计算机网络与信息安全管理中心;北京天润基业科技发展股份有限公司 |
| 地址 | 100029 北京市朝阳区裕民路甲3号 | ||
| 法律状态 | - | ||
摘要
| 摘要 | 本发明一种基于Bi‑GRU和字向量的大规模新闻文本的端到端分类方法，包括如下步骤：S1.进行Word Embedding的字级别语义特征表示；S2.构建注意力权重的Bi‑GRU字级别的句子特征编码模型；S3.搭建基于注意力权重的Bi‑GRU句子级别特征编码模型；S4.使用分层Softmax实现端到端分类实现。本发明方法可降低向量的维度，且有效地防止特征过于稀疏问题。优化了最终的输出向量，增强了模型特征编码有效性。避免维度过高造成的模型难以训练问题，又提供了额外的语义信息。可灵活组合特征抽取模型和各种常见分类器，方便更换调试分类器。计算复杂度比Softmax从|K|降低到log|K|。 |
