基于gstreamer的流媒体AI推理的延迟控制方法
基本信息
| 申请号 | CN202111297959.2 | 申请日 | - |
| 公开（公告）号 | CN114140311A | 公开（公告）日 | 2022-03-04 |
| 申请公布号 | CN114140311A | 申请公布日 | 2022-03-04 |
| 分类号 | G06T1/20（2006.01）I;G06F9/48（2006.01）I | 分类 | 计算；推算；计数; |
| 发明人 | 汤巍敏;杜剑锋 | 申请（专利权）人 | 北京灵起科技有限公司 |
| 代理机构 | 苏州中合知识产权代理事务所（普通合伙） | 代理人 | 阮梅 |
| 地址 | 101300北京市顺义区龙湾屯镇府前街13号东楼347 | ||
| 法律状态 | - | ||
摘要
| 摘要 | 本发明公开基于gstreamer的流媒体AI推理的延迟控制方法，包括如下步骤：实时监测infer推理插件的接口处的推理数据帧信息；获取等待推理的数据帧的数量，判断等待推理的数据帧的数量是否大于最大预设值，若是，则丢弃当前数据帧，返回；若否，则进入下一步；获取最后一次加入等待推理的数据帧的时间戳与当前数据帧的时间戳的时间差，判断时间差是否小于最小预设值，若是，则丢弃当前数据帧，返回；若否，则进入下一步；使当前数据帧加入infer推理插件的等待队列。本发明通过外部监测推理插件内部的帧数量，有效控制推理插件的内部数据帧缓存数量，来保证输出延迟在控制范围内，不至于一直累计放大，避免程序崩溃。 |
