`
edison0663
  • 浏览: 78946 次
  • 性别: Icon_minigender_1
  • 来自: 广州
社区版块
存档分类
最新评论

存储系统层次与局部性

阅读更多

先牢骚一下,批判一下自己先,很多时候做东东,只是听老大说这样去做,然而并没有去深究其背后的意义,很多时候解决了问题,然后并没有去深入挖掘问题发生的原因。而后面的过程,是更可贵的,往往收获也更大。

 

这段时间做的模块,是系统内部中间的中间存储层,是cache的角色。从分布式存储系统上来说,应该是属于,业务数据累的cache存储。

 

最近都争取工作在工作时间完成,然后回来总结。

好了废话多了,开始正题了。

 

一般的存储系统层次,按照众所周知的层次划分可以分为以下几层:

 

级别 存储名称                             访问开销

L0  cpu --------------------------- 几个cpu周期内                 

L1  内存----------------------------几十个到几百个cpu周期 

L2  磁盘----------------------------磁盘平均寻道时间+磁盘旋转平均时间 约是12ms,约是内存访问耗时的10万倍

L3  网络存储-----------------------看具体带宽和网络拓扑结构 + 远程机器访问开销(L0 ~L3的一种) 

 

这里 L3 还可以细分为

L3.1 同一IDC内核心内的网络存储  

L3.2 内网(跨IDC)的网络存储

L3.3 外网的网络存储

 

显而易见地,越上层的访问开销越低,容量也越少,越下层的开销越大,容量也越少,层与层之间的开销。

 

知道了上面的一些基本数据,如何规划,设计存储模型,按照啥原则涅?(傻瓜也知道把东西往上提),但现实不是这么理想的啊。

 

有个很好的原则叫“locality” 局部性。可以从《深入理解计算机系统》第六章找到相关的内容。

局部性有 时间局部性 和 空间局部性。这两个原则在现成的许多系统中都可见一斑。

时间局部性,指的是一个数据被引用过,那么在一定的时间范围内,能被多次引用。memcached等n多cache都是这么整的,glibc的内存块cache啊,包括linux的inode-cache等。

又说空间局部性,指的是一个数据被引用过,那么一定相邻范围内的数据,能在未来被引用。文件预读等就是这个思想。

这两种局部性又是相辅相成的。

 

按照这个局部性原则,规划好数据和存储模型,让大部分的请求落在层级高的存储级别上,就是 最高的指导思想。

我又务虚了T_T

 

2
3
分享到:
评论

相关推荐

    基于Verilog HDL实现的“Cache-主存”和“主存-辅存”层次组成的存储系统【100013267】

    其具有如此神奇作用的原因则是程序的局部性原理——包括空间的局部性和时间的局部性。 在本次提升实验之中,也遵循这样的设计原则。即“Cache-主存”这一层次对程序员来说是完全透明的,程序员直接给地址访问主存,...

    第六章层次结构存储系统1

    第六章层次结构存储系统主要探讨了现代计算机系统中存储器的组织和工作原理,特别是针对CPU与存储器的交互、存储器层次结构、高速缓存(Cache)和虚拟存储器等核心概念。这一章分为六个部分,分别从存储器概述、主存...

    计算机系统结构第四章ppt课件.ppt

    同时,存储系统的设计也需要考虑程序的局部性和存储层次结构等因素。 9. 存储系统的优化:存储系统的优化需要通过多种技术和方法来实现,如使用Cache、虚拟存储器、并行主存系统等。同时,存储系统的优化也需要考虑...

    计算机体系结构存储层次PPT学习教案.pptx

    层次存储器设计的依据是程序局部性原理。 在层次存储中,靠近 CPU 的存储器中的数据一般都是其下一层存储器中数据的子集。CPU 访存时的基本原则:有近及远,首先是访问 M1 ,若在 M1 中找不到所要的数据,就要访问 ...

    操作系统精髓与设计原理课后答案

    10. 开发空间局部性和时间局部性的策略:利用更大的缓冲块并在存储器控制逻辑中加入预处理机制,以及利用在高速缓冲存储器中保留最近使用的指令及数据,并定义缓冲存储的优先级。 操作系统概述: 1. 操作系统设计...

    《操作系统精髓与设计原理·第五版》复习题及答案.doc

    该资源涵盖了计算机系统概述、操作系统概述、处理器寄存器、存储器层次结构、I/O操作、进程管理和存储管理等多个方面的知识点。 计算机系统概述: * 计算机系统的四个主要组成部分:主存储器、算术逻辑单元、控制...

    操作系统精髓与设计原理答案

    时间局部性的开发是利用在高速缓冲存储器中保留最近使用的指令及数据,并且定义缓冲存储的优先级。 习题: 1.1、图1.3中的理想机器还有两条I/O指令: 0011 = 从I/O中载入AC 0111 = 把AC保存到I/O中 在这种情况下...

    操作系统第五版1—12章课后题中文答案

    精髓与设计原理》第五版1-12章课后题中文答案,涵盖了操作系统的基本概念和原理,包括计算机的四个主要组成部分、处理器寄存器、机器指令、中断、内存层次、高速缓冲存储器、I/O 操作、空间局部性、时间局部性、操作...

    系统分析与设计习题及解答

    6. 信息系统局部开发层次的优势:信息系统局部开发层次的优势包括相对简单的 IT 开发、帮助理论的证明、组织变化的阻力最小等。 7. 子系统的划分:一般子系统的划分是在系统需求分析阶段,根据对系统的功能/数据...

    计算机组成第三章存储系统.ppt

    存储系统的分层结构也称为Memory Hierarchy,包括高速缓冲存储器、主存储器、外存储器等多个层次。这种分层结构的设计是基于存储器访问的局部性原理,即当前正在使用的信息很可能是后面立即还要用的信息。 主存储器...

    论文研究-视频阵列处理器多层次分布式存储结构设计.pdf

    针对视频编解码算法访存的局部性、各算法之间数据交互频繁性、算法内部大量临时数据不交互性的特点,设计并实现了由私有存储层和共享存储层构成的多层次分布式存储结构。通过Xilinx公司的Virtex-6系列xc6vlx550T...

    系统结构课后习题答案1

    系统结构课后习题答案1 涵盖了计算机系统的基本概念、体系结构、计算机组成、计算机实现、存储程序计算机、并行性、资源重复、资源共享、耦合度、响应时间、测试程序、测试程序组件、大概率事件优先、系统加速比、...

    第8章 存储器系统3

    计算机存储器系统是计算机性能的关键组成部分,其设计和性能直接影响着计算机...通过理解存储器层次结构、局部性原理以及处理器与存储器之间的接口,我们可以更好地设计和优化存储器系统,以适应不断增长的计算需求。

    软件工程之专题十一: 系统工程知识

    对系统概括为整体性、关联性、动态性、有序性和终极性,其中整体性是系统思想的核心观点,整体性不等于局部特性之和; 1.2系统的分类 系统可以按照各种各样的方法进行分类,一般的分类方法有5种: [1] 按系统的复杂...

    计算机系统结构张晨曦版课后答案.pdf

    它包括同时性与并发性两种含义。 2.13 时间重叠和资源重复 时间重叠是指在并行性概念中引入时间因素,让多个处理过程在时间上相互错开,轮流重叠地使用同一套硬件设备的各个部分,以加快硬件周转而赢得速度。资源...

    2012年软考信息系统管理工程师考前复习笔记

    程序在执行和处理数据时存在顺序性、局部性、循环性和排他性。程序运行时必须把程序和数据的逻辑地址转换为物理地址,这一工作称为地址转换或重定位。地址转换包括静态重定位和动态重定位。 分区存储管理包括固定...

    计算机系统结构复习考点

    数据流计算机的基本特性有异步性、并行性、函数性和局部性。 数据流计算机的结构模型有静态数据流计算机和动态数据流计算机两种,它们的主要差别是在于采用了两种不同的通信方式和两种不同的同步方式。 计算机系统...

    数据库系统与应用习题答案

    数据库系统与应用习题答案是崔巍的《数据库系统及应用》(第二版)中的习题解答,涵盖了数据库系统的基本概念、数据库管理系统、数据库系统、数据独立性、数据完整性、数据库管理员的职责、文件系统用于数据管理的...

    分布式文件系统ppt

    2. xFS 采用了多层次结构很好地利用了文件系统的局部访问的特性,无效写回(Invalidation-based Write Back)缓存一致性协议,减少了网络负载。 3. Tiger Shark 并行文件系统是针对大规模实时多媒体应用设计的,采用...

    北京工业大学计算机系统结构复习.pdf

    3. 程序访问局部性原理。 计算机系统的层次结构可以分为23级。计算机系统的性能评价结果数据处理方法可以分为算术性能平均法、几何平均法、调和平均法等几种。 软件兼容性要求包括继承软件资产、保证软件向后兼容...

Global site tag (gtag.js) - Google Analytics