`

Yahoo!社区架构

阅读更多

Yahoo!社区架构

网址:

 

旧金山举行的 QCon 会议带给我们很多新鲜的信息。虽然没机会参加,但是看看各个网站"晒架构"也是个比较过瘾的事情。请参观并收藏这个页面:Architectures you've always wondered about

eBay 的架构 和去年相比基本是换汤不换药,倒是 Yahoo! 的 Ian Flint (这位老兄是 Bix 的运营总监. Bix 已被雅虎收购) 这个 PPT Yahoo! Communities Architecture: Unlikely Bedfellows 挺有意思,披露了一些鲜为人知的信息。

Yahoo! 社区包括我们比较熟悉的 del.icio.usFlickr 、Yahoo!群组、Yahoo! Mail、Bix 等。相当于 Yahoo!把这些属性相近的应用放到一起运营。这个思路倒是和盛大对游戏的运营有些相近。

架构特点

有两点值得注意:1)层次化 2)模块化。这也是大规模作业下的比较经济的途径。

软件架构

首先是操作系统已经从 FreeBSD 逐渐迁移到 RHEL。这怕是雅虎不得已作出来的决定吧。FreeBSD 的开发力量的确不如 Linux,这也是不争的事实。数据库上 MySQL 与 Oracle 都有。Yahoo! 在 DW/BI 用的是 Oracle,构建了一个超大数据库 。诸如 yapache、yts(反向代理服务器)、yfor(提供快速失败接管)、 ymon(监控),还有还有ysquid、ypan(cpan的 Yahoo! 克隆) 这些组件都是通过 yinst 来统计部署。关于 Yapache,请参考我以前写的 Yapache-Yahoo! Apache 的秘密

这是 Bix 与 DB 有关的部署架构:
Yahoo_soft_arch.png

数据放在 Netapp NAS 上(所以有的时候应用之慢也可以理解了),通过快照复制到其他数据中心。

Yahoo! Mail 架构:

Yahoo_Mail_arch.png

这里面居然部署了 Oracle RAC,用来存储 Mail 服务相关的 Meta 数据。非常有趣。

运营维护

监控工具主要用的是 Nagios ,用以监控集群。使用标准插件,另 外也有自行定制的插件。Nagios 这东西太棒了。主动、被动检查的消息转发是通过 Ymon 来做到。网管上针对 SNMP 的解决方案是用 Yahoo!自己 Y 字头的 Ywatch。这些 Y 字头的东西基本上外面都是找不到的。Yahoo!的技术其实并不那么开放。Google 在运营这方面也好不到什么地方去。趋势图用 Drraw 展现。Drraw 是基于 RRDtool 的 Web 展现工具。

Yahoo_ops.png

应用服务器的监控是被动的。整个监控系统模块化部署。Nagios 的警告信息转发到 Ywatch 中心控制台。

Note: 上面所有截图版权都属于 Ian (Image COPYRIGHT@IAN) 。如果去看那个 PDF 文件,你或许比我收获更多。我只是让你知道我的想法而已。

分享到:
评论

相关推荐

    锦绣蓝图:怎样规划令人浏览往返的网站(第二版) 中文版 上

    信息架构到底是什么?怎样才能规划处令人流连忘返的网站?... 资深信息架构师和用户体验设计师,IA社区的活跃成员。他曾在Comcast互动传媒和世界银行等机构任信息架构师,代表作品有著名视频网站Fancast.com

    大型高并发高负载网站的系统架构

    我在CERNET做过拨号接入平台的搭建,而后在Yahoo&3721从事过搜索引擎前端开发,又 在MOP处理过大型社区猫扑大杂烩的架构升级等工作,同时自己接触和开发过不少大中型网站的模块,因此在大型网站应对高负载和并发的...

    Hadoop从业者为什么需要Spark?

    是使用Hadoop和Spark并存的架构,而随着时间的推进和Spark本身流处理、图技术、机器学习、NoSQL查询的出色特性,最终Yahoo!可能会完成Spark全面取代Hadoop,而这也代表了所有做云计算大数据公司的趋势。 最后,...

    2013年中国数据库大会-32-基于SQL Server的大数据解决方案设计及实现

    自2010年以来,国内领先的IT专业网站IT168联合旗下ITPUB、ChinaUnix技术社区已经连续举办了三届数据库技术大会,每届大会超过千人规模,云集了国内技术水平最高的数据架构师、DBA、数据库开发工程师、研发总监、IT...

    了解 IBM Lotus Sametime V7.5.1 中的新特性和新技术

    本文介绍为 IBM Lotus Sametime 7.5 计划的架构和设计改进,其中包括新的 Connect 客户机、新的 Web 会议 UI、策略、点击通话、点击聊天、A/V 集成,以及连接外部社区(包括 AOL 和 Yahoo)新的 SIP 解决方案。...

    Designing Social Interfaces

    无须构建一个全新的架构就可以开发出一套实用的社交应用 让你的网站上的用户可以互动 为你的会员提供离线联系的机会 识别和避免采用反模式——社交网络和社交媒体空间产生的最糟实践 。 英文简介: From the ...

    Hadoop的分布式架构改进与应用

    Nutch项目子项目之一的Yahoo资助的Hadoop分别实现了三个强有力的开源产品:HDFS,MapReduce和HBase。在大数据时代的背景下,许多公司都开始采用Hadoop作为底层分布式系统,而Hadoop的开源社区日益活跃,Hadoop家族...

    深入PHP与jQuery开发 pdf格式

     插件架构,易于扩展;  庞大的线上社区;  极为完善的文档(http://api.jquery.com);  可选增强扩展模块,比如 jQueryUI。 1.1.3 jQuery的历史 2006年年初,开发人员John Resig在BarCamp NYC...

    JavaScript 继承详解(四)

    现在是Yahoo的资深JavaScript架构师,参与YUI的设计开发。 这里有一篇文章详细介绍了Crockford的生平和著作。 当然Crockford也是我等小辈崇拜的对象。 调用方式 首先让我们看下使用Crockford式继承的调用方式: ...

    messenger-app

    公开聊天允许每个用户与社交蝴蝶社区的其他成员进行通信。 该应用程序使用React和Firebase构建在无服务器架构上。 目录图像技术领域HTML CSS Java脚本引导程序节点React火力基地Firebase Live Db已知的臭虫收到消息...

    大数据技术原理和应用林子雨版课后习题答案解析.doc

    第二波浪潮(1995年前后):互联网信息传输,代表公司有雅虎、谷歌、阿里巴巴、百度、腾讯等;第三波浪潮(2010年前后):物理网、云计算和大数据信息爆炸,将涌现出一批新的市场标杆企业。 二、大数据的特征和应用...

    电子商务实验报告(8).doc

    目的:真切体会各种电子商务交易模式,熟悉其环境,研究其架构,详细分析,比较其 共性和特点。 实验内容: 1 首页的功能和内容: 易趣网: 首页列出了所有商品信息,并且对商品进行了分类,看起来一目了然,方便...

    java开源包1

    JOpenID是一个轻量级的OpenID 2.0 Java客户端,仅50KB+(含源代码),允许任何Web网站通过OpenID支持用户直接登录而无需注册,例如Google Account或Yahoo Account。 JActor的文件持久化组件 JFile JFile 是 JActor ...

    java开源包11

    JOpenID是一个轻量级的OpenID 2.0 Java客户端,仅50KB+(含源代码),允许任何Web网站通过OpenID支持用户直接登录而无需注册,例如Google Account或Yahoo Account。 JActor的文件持久化组件 JFile JFile 是 JActor ...

    java开源包2

    JOpenID是一个轻量级的OpenID 2.0 Java客户端,仅50KB+(含源代码),允许任何Web网站通过OpenID支持用户直接登录而无需注册,例如Google Account或Yahoo Account。 JActor的文件持久化组件 JFile JFile 是 JActor ...

    java开源包3

    JOpenID是一个轻量级的OpenID 2.0 Java客户端,仅50KB+(含源代码),允许任何Web网站通过OpenID支持用户直接登录而无需注册,例如Google Account或Yahoo Account。 JActor的文件持久化组件 JFile JFile 是 JActor ...

    java开源包6

    JOpenID是一个轻量级的OpenID 2.0 Java客户端,仅50KB+(含源代码),允许任何Web网站通过OpenID支持用户直接登录而无需注册,例如Google Account或Yahoo Account。 JActor的文件持久化组件 JFile JFile 是 JActor ...

    java开源包5

    JOpenID是一个轻量级的OpenID 2.0 Java客户端,仅50KB+(含源代码),允许任何Web网站通过OpenID支持用户直接登录而无需注册,例如Google Account或Yahoo Account。 JActor的文件持久化组件 JFile JFile 是 JActor ...

Global site tag (gtag.js) - Google Analytics