一种基于大型通用预训练模型控制对话生成的方法
基本信息
| 申请号 | CN202110501116.3 | 申请日 | - |
| 公开（公告）号 | CN113420129A | 公开（公告）日 | 2021-09-21 |
| 申请公布号 | CN113420129A | 申请公布日 | 2021-09-21 |
| 分类号 | G06F16/332（2019.01）I;G06F16/35（2019.01）I | 分类 | 计算；推算；计数; |
| 发明人 | 黄洪;王赞;贾勇哲;马国宁 | 申请（专利权）人 | 天津泰凡科技有限公司 |
| 代理机构 | 天津市北洋有限责任专利代理事务所 | 代理人 | 李素兰 |
| 地址 | 300072天津市南开区卫津路92号 | ||
| 法律状态 | - | ||
摘要
| 摘要 | 本发明公开了一种基于大型通用预训练模型控制评论生成的方法，第一步、通过一个前向过程获取性模型p（a|x）、p（x）；第二步、通过反向传播获取相对于H的梯度并更新H；第三步、利用更新之后的H来预测此时刻的词典分布；计算Ht的更新值通过若干次重复计算梯度并衰减求和得到。本发明基于预训练的大型通用模型和利用有监督的鉴别器，实现可控主题和情感极性的文本评论生成；相对于传统的beam search解码评论文本生成，本发明使用的基于大型预训练语言模型的生成句子相对更“人性化”。 |
