一种预训练语言模型的生成、检测方法及装置

基本信息

申请号 CN202110436623.3 申请日 -
公开(公告)号 CN113139187A 公开(公告)日 2021-07-20
申请公布号 CN113139187A 申请公布日 2021-07-20
分类号 G06F21/56;G06F21/57;G06K9/62 分类 计算;推算;计数;
发明人 刘洋 申请(专利权)人 启明星辰信息技术集团股份有限公司
代理机构 北京安信方达知识产权代理有限公司 代理人 曲鹏
地址 100193 北京市海淀区东北旺西路8号21号楼启明星辰大厦102号
法律状态 -

摘要

摘要 本发明实施例公开了一种预训练语言模型的生成、检测方法及装置,包括:获取多个训练用的动态API指令序列;分别对所获取的每个API指令序列按照预定的编码规则进行编码,得到多个API指令编码序列;根据所述多个API指令编码序列对预设的语言模型进行训练,得到预训练语言模型。