大规模集群作业异常检测方法

基本信息

申请号 CN202111410717.X 申请日 -
公开(公告)号 CN114116392A 公开(公告)日 2022-03-01
申请公布号 CN114116392A 申请公布日 2022-03-01
分类号 G06F11/30(2006.01)I;G06K9/62(2022.01)I 分类 计算;推算;计数;
发明人 薛巍;杨斌;邵明山;矫志宏 申请(专利权)人 无锡恒鼎超级计算中心有限公司
代理机构 无锡知之火专利代理事务所(特殊普通合伙) 代理人 朱爱进
地址 214000江苏省无锡市滨湖区吟白路1号
法律状态 -

摘要

摘要 本发明提供的一种大规模集群的作业异常检测方法,涉及异常检测方法,包括从数据资料库中联合获取作业性能数据;对获取的作业性能数据进行筛选,获得作业I/O的性能数据;对获得的作业I/O的性能数据进行二次筛选,分成若干独立的I/O阶段,获得I/O阶段数据;获取I/O阶段的总吞吐量、持续时间、带宽峰值、带宽众数作为该I/O阶段的特征数据;将I/O阶段的特征数据与历史I/O阶段特征数据进行聚类,判断I/O阶段的特征数据是否异常。本发明通过将将I/O阶段的特征数据与历史I/O阶段特征数据进行聚类,及时发现I/O的性能异常,方便根据判断出的异常类型及时的进行处置解决,以实时对I/O性能进行优化,提升系统资源利用率,提高I/O性能。