本文对目前数种分布式文件系统进行简单的介绍。当前比较流行的分布式文件系统包括:Lustre、Hadoop、MogileFS、FreeNAS、FastDFS、NFS、OpenAFS、MooseFS、pNFS、以及GoogleFS。
Lustre(
www.lustre.org
)
lustre是一个大规模的、安全可靠的,具备高可用性的集群文件系统,它是由SUN公司开发和维护。该项目主要的目的就是开发下一代的集群文件系统,可以支持超过10000个节点,数以PB的数量存储系统。
lustre是开放源代码的集群文件系统,采取GPL许可协议,目前在集群计算机里,计算机与磁盘间数据交换的提升无法跟上微处理器和内存增长的速度,
从而也拖累了应用程序的性能,一种新兴的集群文件系统软件提高了I/O速度,可能降低企业购买存储设备的成本并改变企业购买存储的方式,集群文件系统已经
在大学、实验室和超级计算机研究中心里使用,而且即将进入通用商业计算市场。新的集群文件系统采用了开源的lustre技术,由美国能源部
(Department Of
Energy)开发,惠普公司(HP)提供商业支持。它显著提高了输入输出(I/O)速度,目前已经在高校、国家实验室和超级计算研究中心产生了一定影
响,未来几年中,它很有可能进入普通的商业计算机领域。
运行在linux下,开发语言c/c++
Hadoop(hadoop.apache.com)
hadoop并不仅仅是一个用于存储的分布式文件系统,而是设计用来在由通用计算设备组成的大型集群上执行分布式应用的框架。
如下图是hadoop的体系结构:
授权协议apache,开发语言java,资源耗费有点大。
MogileFs(www.danga.com)
Mogile Fs是一个开源的分布式文件系统,主要特征包括
1、应用层的组件
2、无单点故障
3、自动文件复制
4、具有比RAID更好的可靠性
5、无需RAID nigukefs支持 ,运行在linux下。
FreeNAS(
www.openqrm.org
)
FreeNAS是网络附加存储(NAS)服务专用操作系统(FreeBSD的简化版
)。基于m0n0wall防火墙,该系统通过提供磁盘管理及RAID软件,可让用户home将PC转换为NAS服务器,支持FTP/NFS/RSYNC
/CIFS/AFP/UNISON/SSH sourceforge.net/pro协议,旨在让人们重新使用旧硬件.
FastDFS(code.google.com/p/fastdfs)
FastDFS是一
个开源的分布式文件系统,它对文件进行管理,功能包括:文件存储、文件同步、文件访问(文件上传、文件下载)等,解决了大容量存储和负载均衡的问题。特别
适合以文件为载体的在线服务,
如相册网站,视频网站等等。FastDFS服务端有两个角色:跟踪器(tracker)和存储节点(storage)。跟踪器主要做调度的工作,在访问上
起负载均衡的作用。存储节点存储文件,完成文件管理的所有功能:
存储、同步、和提供存取接口,FastDFS同时对文件的meta
data进行管理。所谓文件的meta data就是文件的相关属性,以键值对(key value
pair)方式表示,如:width=1024,其中的key为width,value为1024。文件meta
data是文件属性列表,可以包含多个键值树。
开发语言c/c++,运行在linux系统下。
NFS(www.tldp.org/HOWTO/NFS-HOWTO/index.html)
网络文件系统是FreeBSD支持的文件系统中的一种,也被称为NFS。
NFS允许一个系统在网络上与它人共享目录和文件。通过使用NFS, 用户和程序可以象访问本地文件一样访问远端系统上的文件。它的好处是:
1、本地工作站使用更少的磁盘空间,因为通常的数据可以存放在一台机器上而且可以通过网络访问到。
2、用户不必在每个网络上机器里面都有一个home目录。home目录可以被放在NFS服务器上并且在网络上处处可用。
3、诸如软驱、CDROM、和ZIP之类的存储设备可以在网络上面被别的机器使用。可以减少整个网络上的可移动介质设备的数量。
开发语言c/c++,可跨平台运行。
OpenAFS(
www.openafs.org
)
OpenAFS是一套开放源代码的分布式文件系统,允许系统之间通过局域网和广域网来分享档案和资源。OpenAFS是围绕一组叫做cell的文件服务
器组织的,每个服务器的标识通常是隐藏在文件系统中,从AFS客户机登陆的用户将分辨不出他们在那个服务器上运行,因为从用户的角度上看,他们想在有识别
的Unix文件系统语义的单个系统上运行。
文件系统内容通常都是跨cell复制,一便一个硬盘的失效不会损害OpenAFS客户机上的
运行。OpenAFS需要高达1GB的大容量客户机缓存,以允许访问经常使用的文件。它是一个十分安全的基于kerbero的系统,它使用访问控制列表
(ACL)以便可以进行细粒度的访问,这不是基于通常的Linux和Unix安全模型。开发协议IBM Public,运行在linux下。
MooseFs(derf.homelinux.org)
Moose File System是一个具备容错功能的网路分布式文件统,它将数据分布在网络中的不同服务器上,MooseFs通过FUSE使之看起来就 是一个Unix的文件系统。但有一点问题,它还是不能解决单点故障的问题。开发语言perl,可跨平台操作。
pNFS(
www.pnfs.com
)
网络文件系统(Network
FileSystem,NFS)是大多数局域网(LAN)的重要的组成部分。但NFS不适用于高性能计算中苛刻的输入书橱密集型程序,至少以前是这样。
NFS标准的罪行修改纳入了Parallel NFS(pNFS),它是文件共享的并行实现,将传输速率提高了几个数量级。
开发语言c/c++,运行在linu下。
googleFs
据说是一个比较不错的一个可扩展分布式文件系统,用于大型的,分布式的,对大量数据进行访问的应用。它运行于廉价的普通硬件上,但可以提供容错功能,它可以给大量的用户提供性能较高的服务。google自己开发的。
分享到:
相关推荐
在这篇文章中,作者秦东霞和周航详细探讨了基于分布式系统的海量数据存储技术,深入分析了当下流行的存储算法,并对海量数据存储技术的未来趋势进行了展望。 首先,文章解释了海量数据存储的定义,即那些以TB(太...
在微服务架构和分布式系统日益流行的当下,分布式事务的处理成为了软件开发中的一个重要议题。 分布式事务处理的一个核心挑战是如何在不同的服务实例和数据库之间维护一致性。为了解决这一问题,出现了多种分布式...
Spring Boot作为当下最流行的Java开发框架之一,提供了对JTA事务管理的集成支持,使得开发者能够更加方便地在微服务架构中实现分布式事务。 Mybatis是一个优秀的持久层框架,它支持定制化SQL、存储过程以及高级映射...
云计算作为当下最为流行的技术之一,为网站提供了强大的后台支持,能够处理大规模的数据和流量。 7. **网络舆情分析与社会计算**:网络舆情分析涉及对网民行为和意见的研究,社会计算模型在这里被提及,以帮助更...
乐兔淘购物分享系统它综合当下热门流行的Pinterest类购物分享模式开发的一款非常易用的购物分享社区系统。 乐兔淘购物分享系统可用于建设淘宝客网站、社会化电子商务网站、商品展示网站、淘宝店铺推广网站、...
本篇文章要介绍的是一款基于Java语言开发的微服务系统,它采用了当下流行的前后端分离模式。在前后端分离的模式下,前端和后端的工作可以并行进行,互不干扰。前端负责用户界面和用户体验,通常使用HTML、CSS和...
乐兔淘购物分享系统它综合当下热门流行的Pinterest类购物分享模式开发的一款非常易用的购物分享社区系统。乐兔淘购物分享系统可用于建设淘宝客网站、社会化电子商务网站、商品展示网站、淘宝店铺推广网站、兴趣类或...
该系统采用流行的Java语言进行开发,并结合了当下流行的前端技术Vue.js和后端框架Spring Boot,以构建一个前后端分离的现代Web应用。利用Vue.js的高响应性和组件化特性,可以快速开发出用户友好的界面,提升用户体验...
本项目即是一款采用Spring Boot 3框架构建的微服务架构12306售票系统的设计源码,它不仅采用了当下流行的微服务架构模式,而且通过精心设计的系统架构和代码实现,达到了高可用性和高性能的目标,特别适合处理大规模...
Spring Cloud是目前流行的微服务架构框架之一,它提供了一整套解决方案,包括配置管理、服务发现、断路器、智能路由、微代理、控制总线、一次性令牌、全局锁、领导选举、分布式会话和集群状态等。Vue.js则是一个轻量...
提到的“vue3 vite6 ant-design-vue 4.0 typescript”均为当下流行的前端开发技术,其中Vue3是Vue.js的最新版本,Vite.js是一个新型的前端构建工具,Ant Design Vue 4.0则是一个基于Vue的UI组件库。 “springboot3 ...
基于Java和Spring Cloud的imooc首页架构设计源码项目,是一套完整的网站基础架构,采用了当下流行的微服务架构模式,强调了服务的可扩展性和系统的松耦合。Java作为编程语言,拥有良好的跨平台性和强大的社区支持,...
Vue作为当下流行的前端框架之一,其组件的使用显示出项目在前端界面构建上采用了现代化的技术。JavaScript脚本的集成则进一步表明了项目在前后端交互以及动态功能实现上的灵活性。 在设计源码中,还出现了14个SVG...
Spring Boot作为当下流行的Java开发框架,其核心特性是简化了Spring应用的初始搭建以及开发过程。Spring Boot提供了一套完整的解决方案,用于构建独立的、生产级别的基于Spring框架的应用。利用Spring Boot可以快速...
Hadoop是Apache基金会旗下的一个开源分布式存储和计算框架,它通过MapReduce编程模型和HDFS分布式文件系统,使得对海量数据集进行分布式处理变得可行和高效。在本实训项目中,Hadoop为数据分析和处理提供了平台和...
该源码项目不仅包含后端Java源文件,还包括了前端相关的文件,体现了当下流行的全栈开发思路。 项目中的79个Java源文件主要负责后端的业务逻辑处理,可能包含了诸如实体类、服务类、控制器类以及数据访问对象(DAO...
本项目以Java语言为基础,利用当下流行的开源技术栈,包括Dubbo、Nacos、Sentinel、Gateway和Spring Boot框架,共同构建了一个微服务应用的设计源码。以下是本项目中涉及的关键技术及其作用: 1. Dubbo:这是一个高...
SpringBoot作为当下流行的Java开发框架之一,其轻量级、独立、基于注解的特性,使得它在开发中高端的Web应用程序时非常受欢迎。SpringBoot的一个核心特性是自动配置,它可以让你快速启动并运行你的Spring应用。今天...
BT网络作为当下一种流行的文件共享协议,尤其适合大容量文件的传输与共享。在此网络中,资源的搜索和获取变得更加迅速和高效,这使得章鱼搜索在寻找电影、音乐、游戏和电子书籍等数字内容方面,拥有得天独厚的优势。...
微信小程序因其便捷性与高效的用户体验,在互联网领域迅速崛起,成为当下流行的移动应用开发模式之一。从给定的文件信息来看,我们讨论的是一套针对微信平台的外卖点餐系统,该系统采用了SSM框架,即Spring、...