`

大型网站采用什么系统架构保证性能稳定性

 
阅读更多
教程由JAVA中文网整理校对发布(javaweb.cc)

千万级的注册用户,千万级的帖子,nTB级的附件,还有巨大的日访问量,大型网站采用什么系统架构保证性能和稳定性?

首先讨论一下大型网站需要注意和考虑的问题。

数据库海量数据处理:负载量不大的情况下select、delete和update是响应很迅速的,最多加几个索引就可以搞定,但千万级的注册用户和一个设计不好的多对多关系将带来非常严重的性能问题。另外在高UPDATE的情况下,更新一个聚焦索引的时间基本上是不可忍受的。索引和更新是一对天生的冤家。

高并发死锁:平时我们感觉不到,但数据库死锁在高并发的情况下的出现的概率是非常高的。

文件存储的问题:大型网站有海量图片数据、视频数据、文件数据等等,他们如何存储并被有效索引?高并发的情况下IO的瓶颈问题会迅速显现。也许用RAID和专用存贮服务器能解决眼下的问题,但是还有个问题就是各地的访问问题,也许我们的服务器在北京,可能在云南或者新疆的访问速度如何解决?如果做分布式,那么我们的文件索引以及架构该如何规划。

接下来讨论大型网站的底层系统架构,来有效的解决上述问题。

毋庸置疑,对于规模稍大的网站来说,其背后必然是一个服务器集群来提供网站服务,例如,2004年eBay的服务器有2400台,估计现在更多。当然,数据库也必然要和应用服务分开,有单独的数据库服务器集群。对于像淘宝网这样规模的网站而言,就是应用也分成很多组。



下面,就从服务器操作系统与Web服务器、数据库、服务器集群与负载均衡、缓存、独立的图片服务器、其它等几个方面来分析大型网站的系统架构。

服务器操作系统与Web服务器

最底层首先是操作系统。好的操作系统能提高好的性能、稳定性和安全性,而这些对大型网站的性能、安全性和稳定性都是至关重要的。

淘宝网(阿里巴巴): Linux操作系统 + Web 服务器: Apache

新浪:FreeBSD + Web 服务器:Apache

Yahoo:FreeBSD + Web 服务器:自己的

Google: 部分Linux + Web 服务器:自己的

百度:Linux + Web 服务器: Apache

网易:Linux + Web 服务器: Apache

eBay: Windows Server 2003/8 (大量) + Web 服务器:Microsoft IIS

MySpace: Windows Server 2003/8 + Web 服务器:Microsoft IIS

由此可见,开源操作系统做Web应用是首选已经是一个既定事实。在开源操作系统中Linux和FreeBSD差不太多,很难说哪个一定比另外一个要优秀很多、能够全面的超越对手,应该是各有所长。但熟悉Linux的技术人员更多些,利于系统管理、优化等,所以Linux使用更广泛。而Windows Server和IIS虽然有的网站使用,但不开源,而且需要购买微软的一系列应用产品,限制了其使用。总之,开源操作系统,尤其是Linux做Web应用是首选已经是一个既定事实。

常用的系统架构是:

Linux + Apache + PHP + MySQL

Linux + Apache + Java (WebSphere) + Oracle

Windows Server 2003/2008 + IIS + C#/ASP.NET + 数据库

数据库

因为是千万人同时访问的网站,所以一般是有很多个数据库同时工作的,说明白一点就是数据库集群和并发控制,数据分布到地理位置不同的数据中心,以免发生断电事故。

主流的数据库有Sun的是MySQL和Oracle。

Oracle是一款优秀的、广泛采用的商业数据库管理软件。有很强大的功能和安全性,可以处理相对海量的数据。而MySQL是一款非常优秀的开源数据库管理软件,非常适合用多台PC Server组成多点的存储节点阵列(这里我所指的不是MySQL自身提供的集群功能),每单位的数据存储成本也非常的低廉。用多台PC Server安装MySQL组成一个存储节点阵列,通过MySQL自身的Replication或者应用自身的处理,可以很好的保证容错(允许部分节点失效),保证应用的健壮性和可靠性。可以这么说,在关系数据库管理系统的选择上,可以考虑应用本身的情况来决定。

MySQL数据库服务器的master-slave模式,利用数据库服务器在主从服务器间进行同步,应用只把数据写到主服务器,而读数据时则根据负载选择一台从服务器或者主服务器来读取,将数据按不同策略划分到不同的服务器(组)上,分散数据库压力。

服务器集群与负载均衡

服务器群集中每个服务结点运行一个所需服务器程序的独立拷贝,而网络负载均衡则将工作负载在这些主机间进行分配。负载均衡建立在现有网络结构之上,它提供了一种廉价有效的方法扩展服务器带宽和增加吞吐量,加强网络数据处理能力,提高网络的灵活性和可用性。它主要完成以下任务:解决网络拥塞问题,服务就近提供,实现地理位置无关性 ;为用户提供更好的访问质量;提高服务器响应速度;提高服务器及其他资源的利用效率;避免了网络关键部位出现单点失效。

常用的服务器集群和数据库集群负载均衡实现方法:

Citrix NetScaler的硬件负载均衡交换机做服务器集群的负载均衡。

MySQL Proxy做MySQL服务器集群的负载均衡并实现读写分离。其实现读写分离的基本原理是让主数据库处理事务性查询,而从数据库处理SELECT查询。数据库复制被用来把事务性查询导致的变更同步到集群中的从数据库。

CDN (Content Delivery Network): 几乎在各大网站都有使用该技术。例如,使得你的网站在各省市访问更快,其原理是采取了分布式网络缓存结构(即国际上流行的web cache技术),通过在现有的Internet中增加一层新的网络架构,将网站的内容发布到最接近用户的cache服务器内,通过DNS负载均衡的技术,判断用户来源就近访问cache服务器取得所需的内容,解决Internet网络拥塞状况,提高用户访问网站的响应速度,如同提供了多个分布在各地的加速器,以达到快速、可冗余的为多个网站加速的目的。

缓存

众所周知,使用缓存能有效应对大负载,减少数据库的压力,并显著提高多层应用程序的性能,但如何在集群环境中使多个缓存、多层缓存并保存同步是个重大问题。大型网站一般都使用缓存服务器群,并使用多层缓存。业内最常用的有:

Squid cache,Squid服务器群,把它作为web服务器端前置cache服务器缓存相关请求来提高web服务器速度。Squid将大部分静态资源(图片,js,css等)缓存起来,直接返回给访问者,减少应用服务器的负载

memcache,memcache服务器群,一款分布式缓存产品,很多大型网站在应用; 它可以应对任意多个连接,使用非阻塞的网络IO。由于它的工作机制是在内存中开辟一块空间,然后建立一个HashTable,Memcached自管理这些HashTable。

e-Accelerator,比较特殊,PHP的缓存和加速器。是一个免费开源的PHP加速、优化、编译和动态缓存的项目,它可以通过缓存PHP代码编译后的结果来提高PHP脚本的性能,使得一向很复杂和离我们很远的 PHP脚本编译问题完全得到解决。通过使用eAccelerator,可以优化你的PHP代码执行速度,降低服务器负载,可以提高PHP应用执行速度最高达10倍。

独立的图片服务器

无论从管理上,还是从性能上看,只要有可能,尽量部署独立的图片服务器。这几乎成为常识了。具备独立的图片服务器或者服务器集群后,在 Web 服务器上就可以有针对性的进行配置优化。

其他

一个互联网应用,除了服务器的操作系统,Web Server软件,应用服务器软件,数据库软件外,我们还会涉及到一些其他的系统,比如一些中间件系统、文件存储系统(图片服务器,视频服务器,管理服务器,RSS和广告服务器等等)、全文检索、搜索、等等。会在以后介绍。









大型网站采用什么系统架构保证性能稳定性(本教程仅供研究和学习,不代表JAVA中文网观点)
本篇文章链接地址:http://www.javaweb.cc/internet/website/25816.shtml
如需转载请注明出自JAVA中文网:http://www.javaweb.cc/

本篇文章来自Java中文网:http://www.javaweb.cc/internet/website/25816.shtml
分享到:
评论

相关推荐

    大型网站系统架构分析

    千万级的注册用户,千万级的帖子,nTB级的附件,还有巨大的日访问量,大型网站采用什么系统架构保证性能和稳定性

    大型分布式网站架构设计与实践.带目录书签.完整版.rar

    《大型分布式网站架构设计与实践》主要介绍了大型分布式网站架构所涉及的一些技术细节,包括SOA架构的实现、互联网安全架构、构建分布式网站所依赖的基础设施、系统稳定性保障和海量数据分析等内容;深入地讲述了...

    大型分布式网站架构设计与实践完整版

    《大型分布式网站架构设计与实践》主要介绍了大型分布式网站架构所涉及的一些技术细节,包括SOA架构的实现、互联网安全架构、构建分布式网站所依赖的基础设施、系统稳定性保障和海量数据分析等内容;深入地讲述了...

    网站架构技术

    大型网站架构演化 大型网站软件系统的特点 大型网站架构演化发展历程 初始阶段 应用服务和数据服务分离 使用缓存改善网站性能 缓存类型 本地缓存 分布式缓存 缓存产品 redis 业界...

    大型高并发高负载web应用系统架构

    对于一个大型网站来说,当用户访问量增大时如何去保证网站的健壮性,稳定性,扩展性呢?如何去提高网站的性能呢?此文档将给你解惑!

    大型分布式网站架构与实践

     第4章 系统稳定性 218  本章主要介绍和解决如下问题:  常用的在线日志分析命令的使用和日志分析脚本的编写,如cat、grep、wc、less等命令的使用,以及awk、shell脚本的编写。  如何进行集群的监控,包括监控...

    JAVA毕业设计基于Spring cloud房产销售平台系统项目(ssm完整源码+说明)

    2. 高可用性:系统中的每个微服务模块都可以进行水平扩展,保证系统在高并 ** 况下的稳定运行。同时,通过集群部署和负载均衡等技术手段,保证系统的高可用性。 3. 数据一致性:通过采用分布式事务管理机制,保证...

    短信平台设计方案.pdf

    2.1.1 C/S结构 为充分保证系统在安全性、跨平台性、易扩展性、易维护性等方面的 要求,建议采用C/S架构。在这种结构下,用户界面通过客户端和服务 器端实现,一部分事务逻辑在客户端端实现,但是主要事务逻辑在服务...

    MF00594-大型CRM源码.zip

    和稳定性。 6、数据库ORM采用Dapper开发,可以切换成各种数据库。 7、数据库采用mysql对部署到云端的产品,消耗的性能会比sqlserver要少,服务器配置低。 8、前端采用controller js来控制页面。

    MF00039-大型CRM源码.zip

    和稳定性。 6、数据库ORM采用Dapper开发,可以切换成各种数据库。 7、数据库采用mysql对部署到云端的产品,消耗的性能会比sqlserver要少,服务器配置低。 8、前端采用controller js来控制页面。

    计算机毕业设计-JavaSmart系统-系统框架设计与开发(源代码+论文)

    此外,系统还可能集成缓存机制、安全框架、日志记录和异常处理模块,以提高性能和稳定性。系统框架的设计与开发旨在提供高度可重用的组件和模板,简化开发流程,缩短开发周期,并支持后续的扩展和维护。JavaSmart...

    【源码编号 : MF00039】大型CRM源码

    这是一款十分完整的客户关系管理系统源码,采用了比较典型的三层架构技术作为web服务端,前端和 web服务端完全分离 前端采用bootstrap响应式布局,该系统采用AJAX网页无刷新技术,系统运行十 分的顺畅,界面也...

    仿阿里巴巴商贸通b2b行业商务网站管理系统SQL版生成html

    6:页面模板可在后台进行修改,直接生成HTML页,保证了系统的负载能力及稳定性。并可按需生成相应页面,节省生成时间。 网站结构: 1:供应信息,由会员自行发布,由管理员后台审核通过,为会员配备了...

    大屏幕系统设计方案.doc

    系统可靠性 系统关键设备—WG系列网络显示单元及WG系列图像控制系统全部采用XXX产品,系统兼 容性好,稳定性高。不会产生因采用不同厂家产品而造成的不可预知的技术衔接和软件 升级等问题,也不会产生售后服务相互...

    ARM架构芯片在服务器端的发展前景.pdf

    这种服务器价格昂贵,体系封闭,但是稳定性好,性能强,主要用在金融、 电信等大型企业的核心系统中。 2)x86服务器 x86服务器:又称CISC(复杂指令集)架构服务器,即通常所讲的PC服务器,它是基于PC机体系结构, ...

    国产数据库Win(达梦V8)

    DM采用全新的体系架构,在保证大型通用的基础上,针对高可用性、高性能、高安全性、易用性和兼容性做了大量的研发和改进工作,极大提升了达梦数据库产品的性能、语言丰富性、可扩展性,能同时兼顾OLTP和OLAP请求,从...

    国产数据库Linux(达梦V8)

    DM采用全新的体系架构,在保证大型通用的基础上,针对高可用性、高性能、高安全性、易用性和兼容性做了大量的研发和改进工作,极大提升了达梦数据库产品的性能、语言丰富性、可扩展性,能同时兼顾OLTP和OLAP请求,从...

    基于stm32、树莓派,后端使用Java的springboot架构,以微信小程序作为用户控制端的智能家居控制系统.zip

    STM32是由意法半导体(STMicroelectronics)公司推出的基于ARM Cortex-M内核的高性能、低功耗、高性价比32位微控制器系列。自其面世以来,STM32凭借其广泛的适用性和卓越的特性,已成为嵌入式系统设计领域的主流选择...

    跨越篱笆—蘑菇街每秒最大订单数25倍提升历程 - 蘑菇街技术专家 - 白辉(七公)

    在加入蘑菇街电商团队后,我带领团队同学一起,历时一年,先后主导了蘑菇街系统拆分&服务化1.0体系构建、购买链路核心服务的性能提升&服务架构1.5、服务SLA保障推动稳定性提升&服务架构2.0,完成服务框架、MQ、配置...

    ERP进销存管理系统

    ERP进销存管理系统,后台采用目前国内市场应用最为广泛的MICROSOFT SQL SERVER 2000大型数据库,该数据库稳定、可靠、维护简单易用性较好、性能优异,完全可满足企业海量数据存取的要求。前台采用目前主流软件架构C/...

Global site tag (gtag.js) - Google Analytics