`
deeravenger
  • 浏览: 17245 次
  • 性别: Icon_minigender_1
  • 来自: 上海
社区版块
存档分类
最新评论
阅读更多

 

    话说NYT有一大票1851-1922年间扫描的1100万份文章,要从TIFF图档格式转换为PDF,由于数量实在太庞大,转换起来不但耗时甚久,也需要极大数量的机器。最后NYT的工程师将所有文档传到S3放着,然后到EC2开了100Instance,再装个Hadoop利用100台电脑跑分布运算,结果是只花了24小时和大约3000美金就搞定(由于处理速度实在太快,他们实际上还跑了两次)。
EC2介绍之一:EC2概述

    这是提起EC2的时候必然会提到的故事,因为这个故事足够有煽动性:如果按传统的方式,自己来处理分布式问题,那么广软件开发费用的增加都远远不止3000美元,更不用讲硬件的问题。这一堆硬件不买不行,买了以后呢好像就用了那么一回,也不是个事啊。这里就显出Hadoop+EC2的威力来了,这个也被称作是云计算。
    EC2是整个亚马逊Web Service的冰山一角,整个Amazon Web Service(简称AWS)的体系如下图所示:
EC2介绍之一:EC2概述
如上图所示,AWS分成以下几大部分:

         EC2(Elastic Compute Cloud)

         基础存储架构:Dynamo

         S3(Simple Storage Services)

         EBS(Elastic Block Storage)

         SDB(SimpleDB)

         弹性MapReduce

         CloudFront

         其他

    AWS的基础是Dynamo,它是一个分布式的存储系统,使用了DHT作为实现方式,这在后面会有比较详细的讨论。构筑与它之上的,是三个存储子系统,分别面向不同的上层应用。EBS主要面向EC2,S3则是直接面向最终用户,为最终用户提供存储服务,而SDB则是为一些应用提供简单数据库服务。
    由于本篇只涉及EC2相关的,因此重点的内容是EC2和与其相关的一些内容,对于其他的内容则不作太多的讨论。EC2的体系结构如下:
EC2介绍之一:EC2概述
这里面涉及几个概念,分别简单介绍如下:

         Amazon Machine Image (AMI),一个机器镜像,可以理解成像Ghost制作的操作系统的镜像文件。

         Instance 实例是指基于AMI上运行的系统,可以理解为一个在运行中的操作系统。或者可以称为虚机。

         EBSElastic Block Store)与S3不同,它是为EC2提供一个临时存储的服务,如果说S3相当于硬盘,那么EBS就相当于内存,一个Instance还回去以后EBS上的内容会丢失。(或者重启就会丢失?)

         Zone:Region ZoneAvailability Zone

 一个AMI镜像可以创建出很多个Instance,相当于一个模板可以有多个具体具体实现一样。每个Instance是一个操作系统,用户可以开很多Instance来做他需要做的事情。Instance里的东西会首先存到EBS上,如果需要永久存储,则选择S3.用户可以通过SSH登录到虚机里面,尽心一些配置等操作。由此可见,EC2只是提供了一个基本的基础设施,如果涉及用户应用的话要用户自己去上传管理。当然它也提供一些安装了某些软件的镜像,比如安装了Apache的,或者安装了Tomcat的虚机。但总的来讲,当涉及多台虚机进行分布式协作时,用户还需要做很多复杂繁琐的事情,需要把很多机器弄成集群,然后做一些负载均衡或者别的事情。除非直接使用它提供的Map/Reduce服务。

    我们来看一下一个实际使用EC2来部署应用的例子,见下图:
EC2介绍之一:EC2概述

   上面图中的蓝色圆角框代表虚机,也就是Amazon叫Instance的那个东西。他用多台虚机组成一个应用的集群(灰色框内),在这个集群的前端有一个HAProxy作为Load Balencer之用。另外他还用了数据库集群(分Master和Slave),同时在这台虚机上还安装了Memcache作为缓存服务器。而最终的数据都是持久化到S3中的。
   下面来看一下Amazon网站上的实际界面:


 
    可以看到它提供了很多种不同类别的AMI镜像,装了不同的软件的。可以看到一些热门的镜像和最新的镜像。实际操作的话可以从这个页面开始。
   因为回头要用SSH登录到虚机中去,所以需要创建密钥对,供SSH客户端使用。





 
   然后是配置安全组的问题。




 
    经过以上几步操作,实例成功运行了,接下来你就可以通过SSH登进系统做各种操作了。


 
(未完待续)
  • 大小: 31.4 KB
  • 大小: 26.6 KB
  • 大小: 28.8 KB
  • 大小: 43.8 KB
  • 大小: 65.6 KB
  • 大小: 60.5 KB
  • 大小: 121.8 KB
  • 大小: 52.8 KB
  • 大小: 29.6 KB
分享到:
评论
1 楼 deeravenger 2011-06-29  
感觉找不到特别合适的地方放,发在这里可以吧?

相关推荐

    ec2-plugin:Jenkins ec2插件

    ec2-plugin目录介绍允许Jenkins根据需要启动或上的代理,并在未使用它们时将其杀死。 使用此插件,如果Jenkins注意到您的构建集群超载,它将使用EC2 API启动实例并自动将它们作为Jenkins代理进行连接。 当负载下降时...

    ec2-rabbitmq:EC2 实例上的基本 RabbitMQ 设置说明

    一个新的 EC2 实例 安全组对以下传入端口开放:22、5672、15672、25672。 (可选)设置弹性 IP 地址并将其分配给 EC2 实例。 指示 这些说明只需在每台服务器上运行一次。 安装RabbitMQ 通过 SSH 连接到您的 EC2 ...

    aws-ec2-ebs:创建EBS卷,对其进行快照并在将来安装到其他实例上

    第1部分具有Boto2 python代码,我们创建了一个EC2实例,另外1个2 GB EBS卷并显示我们如何将该卷连接到EC2 linux机器上-然后写一些文件。 后者创建该卷的快照然后从中创建一个新的EBS Volume并挂载到新的ec2实例,...

    ec修改器最新版.rar

    软件介绍: 本软件是模拟器的金手指工具。内附最新版、经典版和老版。ec修改器最新版使用方法:0.下载EC官方修改器(附带完全附件)1.运行 官方版模拟器(以官方模拟器为准,不包括任何其他非官方所谓汉化或胡乱修改或...

    ec2instances.info:Amazon EC2实例比较站点

    ec2instances.info 我讨厌在亚马逊网站上比较EC2实例指标和定价,所以我做了 。 欢迎改进!项目状态 我正在这里的贡献者的帮助下积极维护该网站,但并未开发大型新功能。 人们提出了许多整洁的想法和功能要求,但仍...

    1350多个精品易语言模块

    1350多个精品易语言模块提供下载介绍 1亦思验证码识别1.5免费版.ec 24位转单色位图模块.ec 32张发牌.ec 3D引擎支持库-eOgre.ec 69msn.ec ACCESS 到高级表格.ec Access操作.ec Access数据库压缩修复新建.ec ACCSEE...

    game.ec4.3破解版

    2.线程注入功能,全局注入类,内存注入类,输入法注入等。复杂的功能都能一行代码搞定。 3.超级模块含有几十个类别,上千功能,这里不一一介绍。 4.超级模块中含有丰富的实用功能,轻松实现高级编程。 5.找图找色找...

    AWS-EC2-Snapshot-Management:EC2快照管理脚本,用于保持常规备份,用PHP编写

    AWS EC2快照管理是一个php脚本,可将EC2快照当作备份进行修剪。 它可以从命令行运行,但如果需要,可以由其他PHP脚本调用。 除了清理快照外,它还可以用于拍摄新快照。 清理功能将保留快照: 每日:最近7天。 ...

    ec电源管理一些基础的知识

    一、 开关机管理: .......................................................................................................................... 10 1、 功能介绍: .............................................

    Terraform_Example_AWS_Nginx:利用Terraform部署Amazon Web Services(AWS)虚拟私有云(VPC)和Elastic Compute Cloud(EC2)实例,包括nginx(HTTP)部署

    该存储库的目的是提供一个示例Terraform模板,用于通过nginx(HTTP)部署来部署Amazon Web Services(AWS)虚拟私有云(VPC)和Elastic Compute Cloud(EC2)实例。 目标受众 本手册的目标读者是云管理员。 配置虚拟...

    Immutable infrastructure with Docker and EC2

    Michael Bryzek作为Gilt的首席技术官和创始人之一,详细的介绍了Gilt的具体信息,说明了风险的定义,以及如何减少风险的措施和方法等。

    capistrano-ec2tag:基于标签部署到 Amazon EC2 实例的 Capistrano 插件

    capistrano-ec2tag 是一个插件,旨在简化部署到上托管的基础设施的任务。 它的灵感来自插件,所有功劳都归功于该插件。 虽然最初的插件对我很有用,但我开始遇到需要更多灵活性的情况。 更具体地说,为了更改安全组...

    MySQL在Amazon EC2上最佳实践指导

    相应的,开源软件已经成为 “云”的一个自然选择,因为开发人员和机构,希望使用一个经验证的软件可以加速云开发和应用交付。本文介绍了最受欢迎的云计算平台、Amazon Web Services(AWS),提供一些在云上部署、管理...

    云计算课设

    本实验将向您介绍启动、管理和监控 Amazon EC2 实例以及调整其大小的基本概述。 什么是 Amazon Elastic Compute Cloud (Amazon EC2)? Amazon EC2 是一种 Web 服务,可在云中提供可调计算容量。该服务旨在让开发...

    【微信小程序】使用echarts实现一个界面动态刷新多个柱状图

    关于echarts的下载和引入不多加介绍。 效果图 这里只取一部分数据做展示 JS部分 定义全局变量 import * as echarts from '../../utils/ec-canvas/echarts'; //引入echarts.js var dataList = []; var EqpList=[]; ...

    homebrew-aws:Homebrew是macOS的软件包管理器,可轻松安装和更新其他软件的管理。 此Tap(存储库)包含AWS提供的macOS AMI中使用的公式。

    EC2 macOS Homebrew Tap 介绍 AWS提供了经EC2优化的macOS AMI,供开发人员使用。 这些AMI包括此Tap,以提供一种简单的方法来获取这些工具并对其进行更新。 是macOS的软件包管理器,可轻松安装和更新管理。 此Tap...

    Tutorial-using-Amazon-AWS-EC2-run-scripts-GitHub:教程

    教程:使用Amazon AWS EC2从GitHub存储库运行脚本 本教程的目标是(1)配置Amazon EC2实例的硬件和软件,然后我们(2)创建与此... 我们将重点介绍如何利用AWS EC2执行脚本。 创建AWS账户 如果您没有Amazon AWS账户,

    cznmwf_hkit_jxt2ec.rar

    php源码实现,这是一个用php脚本语言写的上传下载,LinkBox v0.2,程序介绍:简单的大众文件上传系统,支持文件地址直链说明:1.请用notepad2等软件编辑“config.php”,修改为您的网站地址。2.将文件夹内容上传到您的...

    JK-EC-6000型高速往复电化学腐蚀摩擦磨损试验仪 JK-EC-6000高速往复电化学腐蚀摩擦磨损试验仪主要模拟海、江湖、河

    一、产品介绍: JK-EC-6000高速往复电化学腐蚀摩擦磨损试验仪主要模拟海、江湖、河及油气钻采中的腐蚀摩擦状 态,针对材料表面及薄膜在不同载荷、不同频率、不同温度及不同气氛下,在腐蚀介质中以高速往复运动形式...

    阿里云服务器ECS介绍.pptx

    业界相关产品对比 产品高级功能 阿里云-弹性计算 Amazon-EC2 弹性块存储 快照回滚 快照只读挂载 防DDOS攻击 故障恢复 在线迁移 弹性内存 Elastic Compute Unit Virtual Private Cloud 安全组 自定义配置 自定义镜像...

Global site tag (gtag.js) - Google Analytics