- 智能云存储系统 您现在的位置 :首页 -- 技术论坛 -- 智能云存储系统
- 上一篇:大数据时代下的云存储
- 下一篇:云存储架构下的冷存储技术产品六大功能
基于访问频度的数据迁移机制
发表于:2019-01-23 浏览429次 |
4K超高清内容相比高清内容需要更海量的存储和更高的吞吐性能,为了能高效管理4K数据,采用数据分级存储技术,根据数据的不同来源、不同结构、不同重要性,存放在不同级别的存储设备中。根据数据的访问频率、保留时间及存储的剩余容量、读写性能要求等因素确定最佳存储策略,实现4K超高清内容海量数据在存储设备之间的高效迁移。
4K互动电视平台的内容存储结构引入分级存储技术,能够降低总体存储成本和优化性能。将高频访问数据和有快速访问响应要求的数据存入内存存储设备中,将不经常访问的数据驻留在较低成本的存储设备中,综合发挥高性能存储设备的性能优势和低价格存储设备的成本优势。
数据分级存储的逻辑结构主要包括三级存储设备和分级存储管理两部分。其中,归档数据使用磁带库存储;近线数据使用中低性能磁盘库存储;在线数据分为两级,使用高性能磁盘库存储所有在线数据,使用内存数据库存储高频率访问、有快速访问响应要求的数据或其他需要高效数据访问的数据。
在线存储设备适合访问要求频繁,并且对反应和数据传输都要求较高的应用。采用SAS或固态磁盘阵列,用于存储即将用于制作、编辑、播出的视音频素材。
近线存储设备用于存储和在线设备发生频繁读写交换的数据,包括近段时间采集的视音频素材或近段时间制作的节目等。
离线存储采用磁带、磁带库等,由于离线到在线的存储介质的装载过程很长,所以离线存储用来存储不常用的冷数据包括制作时间较远的节目等。
在分级存储中,数据不可避免的要在各级存储设备之间动态转换,即迁移数据。数据自动迁移技术能最大限度的降低数据迁移动作本身对计算结点的I/O性能影响,且对前端透明,根据前台I/O负载的变化来调整数据迁移速率,使得数据迁移动作本身对存能系统的影响非常小,基迁移任务能够尽快完成。
满足迁移条件的数据在合适的时同段会根据相应的数据迁移策略进行迁移,本平台采用基于访问频度为主指标的数据迁移策略,主要包括基于访问时限和访问频度的分级策略、基于平均热度和访问频度的分级策略以及基于存储容量和访问频度的三种数据迁移策略。不同数据分级策略提供了不同的策略标准,根据不同的应用场景和要求,使得数据在存储层之间进行数据升级、降级迁移。
金钱猫科技