一种数据文件上传处理方法和系统
基本信息
申请号 | CN202210147890.3 | 申请日 | - |
公开(公告)号 | CN114546955A | 公开(公告)日 | 2022-05-27 |
申请公布号 | CN114546955A | 申请公布日 | 2022-05-27 |
分类号 | G06F16/16(2019.01)I;G06F16/172(2019.01)I;H04L67/06(2022.01)I | 分类 | 计算;推算;计数; |
发明人 | 曾觉锐;丁佳军;郑祥康;叶正卿;魏美钟 | 申请(专利权)人 | 杭州每刻科技有限公司 |
代理机构 | 杭州裕阳联合专利代理有限公司 | 代理人 | - |
地址 | 310000浙江省杭州市钱塘新区万晶湖畔中心西区2幢1501室 | ||
法律状态 | - |
摘要
摘要 | 本发明公开了一种数据文件上传处理方法和系统,所述方法包括入下步骤:获取前端数据文件,将所述数据文件分片断点上传至OSS平台;生成所述数据文件的上传记录列表,所述上传记录列表包含文件id;调用RocketMQ将所述文件id发送到异步消息服务器;所述异步消息服务器分批下载所述OSS平台的数据文件,并执行所述数据文件的异步处理。所述方法和系统提供了一种异步处理的大数据的文件处理方法,可以降低系统的复杂度,并且使得消息上传和数据处理之间进行行为解耦,提高了文件上传系统的复用能力和水平扩容能力。 |
