← 返回列表

基于索引在线拼接的海量小文件存储系统与方法

申请号: CN202410019858.6
申请人: 深圳市杉岩数据技术有限公司
更新日期: 2026-03-17

专利详细信息

项目 内容
专利名称 基于索引在线拼接的海量小文件存储系统与方法
专利类型 发明申请
申请号 CN202410019858.6
申请日 2024/1/6
公告号 CN117519612A
公开日 2024/2/6
IPC主分类号 G06F3/06
权利人 深圳市杉岩数据技术有限公司
发明人 文刘飞; 陈坚
地址 广东省深圳市福田区梅林街道孖岭社区上梅林凯丰路10号华超大厦1401

摘要文本

一种基于索引在线拼接的海量小文件存储方法,写入小文件时,按顺序写入缓存对象,在小文件索引中记录小文件与缓存对象的对应关系;当缓存对象大于设定缓存大小时,创建一个新的缓存对象,在新的缓存对象中继续写入;将完成缓存的缓存对象写入到对应的存储对象中,小文件索引中更新小文件与存储对象的对应关系,存储对象中的开始位置;释放对应的缓存对象空间;在日志模块中记录对缓存对象的操作以及本操作所关联的小文件信息。本发明,用掉电不丢失的存储盘来缓存小文件,提升了数据的安全性,用多个文件直接拼接成可以直接操作存储器件的空间,提升了写入效率,在底层,直接操作存储器件,提升了数据访问效能与数据安全性。

专利主权项内容

1.一种基于索引在线拼接的海量小文件存储系统,其特征在于,包括两个以上的存储服务器;一个存储服务器中包括至少一个缓存装置或至少一个存储装置,缓存装置用于缓存数据,存储装置用于存储数据;缓存装置具有掉电数据不丢失能力;缓存装置中的存储空间划分为一个以上的缓存空间,缓存对象对应到所述缓存空间,缓存对象对应缓存空间具有成块擦除数据能力,缓存对象对应缓存空间具有按照字节写入的能力;存储装置具有掉电数据不丢失能力;存储装置中的存储空间划分为一个以上的存储空间,存储对象对应到所述存储空间,存储对象对应存储空间具有成块擦除数据能力,存储对象对应存储空间具有按数据块写入的能力;写入小文件时,按顺序写入缓存对象,在小文件索引中记录小文件与缓存对象的对应关系;小文件索引中记录小文件的大小,缓存对象中的开始位置;当缓存对象大于设定缓存大小时,创建一个新的缓存对象,在新的缓存对象中继续写入;将缓存对象写入存储对象后,在小文件索引中记录小文件与存储对象的对应关系;小文件索引中记录小文件的大小,存储对象中的开始位置;在日志模块中记录对缓存对象的操作,在日志模块中记录缓存对象关联的小文件信息,日志模块中记录的数据具有掉电不丢失的能力。