话说NYT有一大票1851-1922年间扫描的1100万份文章,要从TIFF图档格式转换为PDF,由于数量实在太庞大,转换起来不但耗时甚久,也需要极大数量的机器。最后NYT的工程师将所有文档传到S3放着,然后到EC2开了100个Instance,再装个Hadoop利用这100台电脑跑分布运算,结果是只花了24小时和大约3000美金就搞定(由于处理速度实在太快,他们实际上还跑了两次)。
这是提起EC2的时候必然会提到的故事,因为这个故事足够有煽动性:如果按传统的方式,自己来处理分布式问题,那么广软件开发费用的增加都远远不止3000美元,更不用讲硬件的问题。这一堆硬件不买不行,买了以后呢好像就用了那么一回,也不是个事啊。这里就显出Hadoop+EC2的威力来了,这个也被称作是云计算。
EC2是整个亚马逊Web Service的冰山一角,整个Amazon Web Service(简称AWS)的体系如下图所示:
如上图所示,AWS分成以下几大部分:
• EC2(Elastic Compute Cloud)
• 基础存储架构:Dynamo
• S3(Simple Storage Services)
• EBS(Elastic Block Storage)
• SDB(SimpleDB)
• 弹性MapReduce
• CloudFront
• 其他
AWS的基础是Dynamo,它是一个分布式的存储系统,使用了DHT作为实现方式,这在后面会有比较详细的讨论。构筑与它之上的,是三个存储子系统,分别面向不同的上层应用。EBS主要面向EC2,S3则是直接面向最终用户,为最终用户提供存储服务,而SDB则是为一些应用提供简单数据库服务。
由于本篇只涉及EC2相关的,因此重点的内容是EC2和与其相关的一些内容,对于其他的内容则不作太多的讨论。EC2的体系结构如下:
• Amazon Machine Image (AMI),一个机器镜像,可以理解成像Ghost制作的操作系统的镜像文件。
• Instance 实例是指基于AMI上运行的系统,可以理解为一个在运行中的操作系统。或者可以称为虚机。
• EBS(Elastic Block Store)与S3不同,它是为EC2提供一个临时存储的服务,如果说S3相当于硬盘,那么EBS就相当于内存,一个Instance还回去以后EBS上的内容会丢失。(或者重启就会丢失?)
• Zone:分Region Zone和Availability Zone
一个AMI镜像可以创建出很多个Instance,相当于一个模板可以有多个具体具体实现一样。每个Instance是一个操作系统,用户可以开很多Instance来做他需要做的事情。Instance里的东西会首先存到EBS上,如果需要永久存储,则选择S3.用户可以通过SSH登录到虚机里面,尽心一些配置等操作。由此可见,EC2只是提供了一个基本的基础设施,如果涉及用户应用的话要用户自己去上传管理。当然它也提供一些安装了某些软件的镜像,比如安装了Apache的,或者安装了Tomcat的虚机。但总的来讲,当涉及多台虚机进行分布式协作时,用户还需要做很多复杂繁琐的事情,需要把很多机器弄成集群,然后做一些负载均衡或者别的事情。除非直接使用它提供的Map/Reduce服务。
我们来看一下一个实际使用EC2来部署应用的例子,见下图:
上面图中的蓝色圆角框代表虚机,也就是Amazon叫Instance的那个东西。他用多台虚机组成一个应用的集群(灰色框内),在这个集群的前端有一个HAProxy作为Load Balencer之用。另外他还用了数据库集群(分Master和Slave),同时在这台虚机上还安装了Memcache作为缓存服务器。而最终的数据都是持久化到S3中的。
下面来看一下Amazon网站上的实际界面:
可以看到它提供了很多种不同类别的AMI镜像,装了不同的软件的。可以看到一些热门的镜像和最新的镜像。实际操作的话可以从这个页面开始。
因为回头要用SSH登录到虚机中去,所以需要创建密钥对,供SSH客户端使用。
然后是配置安全组的问题。
经过以上几步操作,实例成功运行了,接下来你就可以通过SSH登进系统做各种操作了。
(未完待续)
- 大小: 31.4 KB
- 大小: 26.6 KB
- 大小: 28.8 KB
- 大小: 43.8 KB
- 大小: 65.6 KB
- 大小: 60.5 KB
- 大小: 121.8 KB
- 大小: 52.8 KB
- 大小: 29.6 KB
分享到:
相关推荐
ec2-plugin目录介绍允许Jenkins根据需要启动或上的代理,并在未使用它们时将其杀死。 使用此插件,如果Jenkins注意到您的构建集群超载,它将使用EC2 API启动实例并自动将它们作为Jenkins代理进行连接。 当负载下降时...
一个新的 EC2 实例 安全组对以下传入端口开放:22、5672、15672、25672。 (可选)设置弹性 IP 地址并将其分配给 EC2 实例。 指示 这些说明只需在每台服务器上运行一次。 安装RabbitMQ 通过 SSH 连接到您的 EC2 ...
第1部分具有Boto2 python代码,我们创建了一个EC2实例,另外1个2 GB EBS卷并显示我们如何将该卷连接到EC2 linux机器上-然后写一些文件。 后者创建该卷的快照然后从中创建一个新的EBS Volume并挂载到新的ec2实例,...
软件介绍: 本软件是模拟器的金手指工具。内附最新版、经典版和老版。ec修改器最新版使用方法:0.下载EC官方修改器(附带完全附件)1.运行 官方版模拟器(以官方模拟器为准,不包括任何其他非官方所谓汉化或胡乱修改或...
ec2instances.info 我讨厌在亚马逊网站上比较EC2实例指标和定价,所以我做了 。 欢迎改进!项目状态 我正在这里的贡献者的帮助下积极维护该网站,但并未开发大型新功能。 人们提出了许多整洁的想法和功能要求,但仍...
1350多个精品易语言模块提供下载介绍 1亦思验证码识别1.5免费版.ec 24位转单色位图模块.ec 32张发牌.ec 3D引擎支持库-eOgre.ec 69msn.ec ACCESS 到高级表格.ec Access操作.ec Access数据库压缩修复新建.ec ACCSEE...
2.线程注入功能,全局注入类,内存注入类,输入法注入等。复杂的功能都能一行代码搞定。 3.超级模块含有几十个类别,上千功能,这里不一一介绍。 4.超级模块中含有丰富的实用功能,轻松实现高级编程。 5.找图找色找...
AWS EC2快照管理是一个php脚本,可将EC2快照当作备份进行修剪。 它可以从命令行运行,但如果需要,可以由其他PHP脚本调用。 除了清理快照外,它还可以用于拍摄新快照。 清理功能将保留快照: 每日:最近7天。 ...
一、 开关机管理: .......................................................................................................................... 10 1、 功能介绍: .............................................
该存储库的目的是提供一个示例Terraform模板,用于通过nginx(HTTP)部署来部署Amazon Web Services(AWS)虚拟私有云(VPC)和Elastic Compute Cloud(EC2)实例。 目标受众 本手册的目标读者是云管理员。 配置虚拟...
Michael Bryzek作为Gilt的首席技术官和创始人之一,详细的介绍了Gilt的具体信息,说明了风险的定义,以及如何减少风险的措施和方法等。
capistrano-ec2tag 是一个插件,旨在简化部署到上托管的基础设施的任务。 它的灵感来自插件,所有功劳都归功于该插件。 虽然最初的插件对我很有用,但我开始遇到需要更多灵活性的情况。 更具体地说,为了更改安全组...
相应的,开源软件已经成为 “云”的一个自然选择,因为开发人员和机构,希望使用一个经验证的软件可以加速云开发和应用交付。本文介绍了最受欢迎的云计算平台、Amazon Web Services(AWS),提供一些在云上部署、管理...
本实验将向您介绍启动、管理和监控 Amazon EC2 实例以及调整其大小的基本概述。 什么是 Amazon Elastic Compute Cloud (Amazon EC2)? Amazon EC2 是一种 Web 服务,可在云中提供可调计算容量。该服务旨在让开发...
关于echarts的下载和引入不多加介绍。 效果图 这里只取一部分数据做展示 JS部分 定义全局变量 import * as echarts from '../../utils/ec-canvas/echarts'; //引入echarts.js var dataList = []; var EqpList=[]; ...
EC2 macOS Homebrew Tap 介绍 AWS提供了经EC2优化的macOS AMI,供开发人员使用。 这些AMI包括此Tap,以提供一种简单的方法来获取这些工具并对其进行更新。 是macOS的软件包管理器,可轻松安装和更新管理。 此Tap...
教程:使用Amazon AWS EC2从GitHub存储库运行脚本 本教程的目标是(1)配置Amazon EC2实例的硬件和软件,然后我们(2)创建与此... 我们将重点介绍如何利用AWS EC2执行脚本。 创建AWS账户 如果您没有Amazon AWS账户,
php源码实现,这是一个用php脚本语言写的上传下载,LinkBox v0.2,程序介绍:简单的大众文件上传系统,支持文件地址直链说明:1.请用notepad2等软件编辑“config.php”,修改为您的网站地址。2.将文件夹内容上传到您的...
一、产品介绍: JK-EC-6000高速往复电化学腐蚀摩擦磨损试验仪主要模拟海、江湖、河及油气钻采中的腐蚀摩擦状 态,针对材料表面及薄膜在不同载荷、不同频率、不同温度及不同气氛下,在腐蚀介质中以高速往复运动形式...
业界相关产品对比 产品高级功能 阿里云-弹性计算 Amazon-EC2 弹性块存储 快照回滚 快照只读挂载 防DDOS攻击 故障恢复 在线迁移 弹性内存 Elastic Compute Unit Virtual Private Cloud 安全组 自定义配置 自定义镜像...