← 返回列表
数据读取方法、装置、计算机设备及存储介质
申请人信息
- 申请人:苏州元脑智能科技有限公司
- 申请人地址:215000 江苏省苏州市吴中经济开发区郭巷街道官浦路1号9幢
- 发明人: 苏州元脑智能科技有限公司
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 数据读取方法、装置、计算机设备及存储介质 |
| 专利类型 | 发明申请 |
| 申请号 | CN202410129220.8 |
| 申请日 | 2024/1/30 |
| 公告号 | CN117667853A |
| 公开日 | 2024/3/8 |
| IPC主分类号 | G06F16/13 |
| 权利人 | 苏州元脑智能科技有限公司 |
| 发明人 | 王继玉; 陈培; 荆荣讯 |
| 地址 | 江苏省苏州市吴中经济开发区郭巷街道官浦路1号9幢 |
摘要文本
本发明涉及数据处理技术领域,公开了数据读取方法、装置、计算机设备及存储介质,该方法包括:获取多个文件块的块标识,并确定所述文件块中每个文件对应的文件标识;所述文件块是对文件数据集中的文件进行聚合所生成的数据块;对所述多个文件块的块标识进行分组,形成多个块标识组;对所述多个块标识组进行组间乱序,并对至少部分所述块标识组中的文件标识进行组内乱序,形成乱序后的文件标识序列;按照所述文件标识序列中文件标识的顺序,分批次读取与当前批次包含的文件标识相对应的文件。本发明可以方便快速地实现对整个文件数据集的乱序,在保证模型训练准确度的同时,可以提高乱序效率,能够保证读取效率。
专利主权项内容
1.一种数据读取方法,其特征在于,所述方法包括:获取多个文件块的块标识,并确定所述文件块中每个文件对应的文件标识;所述文件块是对文件数据集中的文件进行聚合所生成的数据块;对所述多个文件块的块标识进行分组,形成多个块标识组;对所述多个块标识组进行组间乱序,并对至少部分所述块标识组中的文件标识进行组内乱序,形成乱序后的文件标识序列;按照所述文件标识序列中文件标识的顺序,分批次读取与当前批次包含的文件标识相对应的文件。