`
liwanchun_xd
  • 浏览: 120776 次
  • 来自: ...
文章分类
社区版块
存档分类
最新评论

大数据量的系统的数据库结构如何设计?

阅读更多
1、把你表中经常查询的和不常用的分开几个表,也就是横向切分  
  2、把不同类型的分成几个表,纵向切分  
  3、常用联接的建索引  
  4、服务器放几个硬盘,把数据、日志、索引分盘存放,这样可以提高IO吞吐率  
  5、用优化器,优化你的查询  
  6、考虑冗余,这样可以减少连接  
  7、可以考虑建立统计表,就是实时生成总计表,这样可以避免每次查询都统计一次  
  8、用极量数据测试一下

数据仓库解决的是数据挖掘,共享,和大数据量存储有什么根本关系?  
  mrzxc   等说的好,考虑你的系统,注意负载平衡,查询优化,25   万并不大,可以建一个表,然后按mrzxc   的3   4   5   7   优化。  
 

速度,影响它的因数太多了,且数据量越大越明显。  
  1、存储  
        将硬盘分成NTFS格式,NTFS比FAT32快,并看你的数据文件大小,1G以上你可以采用多数据库文件,这样可以将存取负载分散到多个物理硬盘或磁盘阵列上。  
   
  2、tempdb  
        tempdb也应该被单独的物理硬盘或磁盘阵列上,建议放在RAID   0上,这样它的性能最高,不要对它设置最大值让它自动增长  
   
  3、日志文件  
        日志文件也应该和数据文件分开在不同的理硬盘或磁盘阵列上,这样也可以提高硬盘I/O性能。  
   
  4、分区视图  
        就是将你的数据水平分割在集群服务器上,它适合大规模OLTP,SQL群集上,如果你数据库不是访问特别大不建议使用。  
   
  5、簇索引  
        你的表一定有个簇索引,在使用簇索引查询的时候,区块查询是最快的,如用between,应为他是物理连续的,你应该尽量减少对它的updaet,应为这可以使它物理不连续。  
   
  6、非簇索引  
        非簇索引与物理顺序无关,设计它时必须有高度的可选择性,可以提高查询速度,但对表update的时候这些非簇索引会影响速度,且占用空间大,如果你愿意用空间和修改时间换取速度可以考虑。  
   
  7、索引视图  
        如果在视图上建立索引,那视图的结果集就会被存储起来,对与特定的查询性能可以提高很多,但同样对update语句时它也会严重减低性能,一般用在数据相对稳定的数据仓库中。  
   
  8、维护索引  
        你在将索引建好后,定期维护是很重要的,用dbcc   showcontig来观察页密度、扫描密度等等,及时用dbcc   indexdefrag来整理表或视图的索引,在必要的时候用dbcc   dbreindex来重建索引可以受到良好的效果。  
   
  不论你是用几个表1、2、3点都可以提高一定的性能,5、6、8点你是必须做的,至于4、7点看你的需求,我个人是不建议的。打了半个多小时想是在写论文,希望对你有帮助。
分享到:
评论
1 楼 petitlen 2008-07-16  
liwanchun_xd 写道
1、把你表中经常查询的和不常用的分开几个表,也就是横向切分  
  2、把不同类型的分成几个表,纵向切分  
  3、常用联接的建索引  
  4、服务器放几个硬盘,把数据、日志、索引分盘存放,这样可以提高IO吞吐率  
  5、用优化器,优化你的查询  
  6、考虑冗余,这样可以减少连接  
  7、可以考虑建立统计表,就是实时生成总计表,这样可以避免每次查询都统计一次  
  8、用极量数据测试一下

数据仓库解决的是数据挖掘,共享,和大数据量存储有什么根本关系?  
  mrzxc   等说的好,考虑你的系统,注意负载平衡,查询优化,25   万并不大,可以建一个表,然后按mrzxc   的3   4   5   7   优化。  
 

速度,影响它的因数太多了,且数据量越大越明显。  
  1、存储  
        将硬盘分成NTFS格式,NTFS比FAT32快,并看你的数据文件大小,1G以上你可以采用多数据库文件,这样可以将存取负载分散到多个物理硬盘或磁盘阵列上。  
   
  2、tempdb  
        tempdb也应该被单独的物理硬盘或磁盘阵列上,建议放在RAID   0上,这样它的性能最高,不要对它设置最大值让它自动增长  
   
  3、日志文件  
        日志文件也应该和数据文件分开在不同的理硬盘或磁盘阵列上,这样也可以提高硬盘I/O性能。  
   
  4、分区视图  
        就是将你的数据水平分割在集群服务器上,它适合大规模OLTP,SQL群集上,如果你数据库不是访问特别大不建议使用。  
   
  5、簇索引  
        你的表一定有个簇索引,在使用簇索引查询的时候,区块查询是最快的,如用between,应为他是物理连续的,你应该尽量减少对它的updaet,应为这可以使它物理不连续。  
   
  6、非簇索引  
        非簇索引与物理顺序无关,设计它时必须有高度的可选择性,可以提高查询速度,但对表update的时候这些非簇索引会影响速度,且占用空间大,如果你愿意用空间和修改时间换取速度可以考虑。  
   
  7、索引视图  
        如果在视图上建立索引,那视图的结果集就会被存储起来,对与特定的查询性能可以提高很多,但同样对update语句时它也会严重减低性能,一般用在数据相对稳定的数据仓库中。  
   
  8、维护索引  
        你在将索引建好后,定期维护是很重要的,用dbcc   showcontig来观察页密度、扫描密度等等,及时用dbcc   indexdefrag来整理表或视图的索引,在必要的时候用dbcc   dbreindex来重建索引可以受到良好的效果。  
   
  不论你是用几个表1、2、3点都可以提高一定的性能,5、6、8点你是必须做的,至于4、7点看你的需求,我个人是不建议的。打了半个多小时想是在写论文,希望对你有帮助。

相关推荐

    oracle大数据量的系统的数据库结构如何设计

    oracle大数据量的系统的数据库结构如何设计

    大数据量的系统的数据库结构如何设计

    大数据量的系统的数据库结构如何设计,经验之谈啊

    图书销售管理系统数据库设计.docx

    6 数据字典 6 数据项 6 数据结构 7 数据流表 8 数据存储 8 处理过程 9 第四章 概念结构设计 9 图书销售管理系统数据库设计全文共23页,当前为第2页。 用户管理模块 9 图书销售管理系统数据库设计全文共23页,当前为...

    大数据库系统资源数据库建设总体设计.docx

    大数据库系统资源数据库建设总体设计全文共16页,当前为第1页。大数据库系统资源数据库建设总体设计全文共16页,当前为第1页。大数据库系统 大数据库系统资源数据库建设总体设计全文共16页,当前为第1页。 大数据库...

    投票系统数据库设计说明.doc

    5 3结构设计 10 3.1概念结构设计 10 3.2逻辑结构设计 11 3.3物理结构设计 12 4运用设计 12 4.1安全保密设计 12 4.2系统运行与维护 12 投票系统数据库设计说明书 1.引言 1.1编写目的 在积极建立科学管理机制的今天,...

    高校教材管理系统数据库系统设计

    有了逻辑结构以后,就可以设计存储记录结构,一个存储记录可以与多个逻辑记录相对应。存储记录就包括记录的组成,数据项的类型,长度及其他约束条件。 经分析可知其对应的关系模式: (1)出版社(出版社号、教材号、...

    数据库课程设计任务书-某汽车美容店管理系统数据库设计.doc

    " " " " " "2015年 " "需求分析 " "概念结构和逻辑结构设计 " "数据库实现 " "撰写课程设计说明书 " "验收答辩、成绩考核 " " " ----------------------- 数据库课程设计任务书-某汽车美容店管理系统数据库设计全文...

    数据库课程设计机票预定系统

    当年人们把数据存放在文件柜中,可现在随着社会的发展,数据量急剧增长,现在人们就借助计算机和数据库技术科学的保存大量的数据,以便能更好的利用这些数据资源。 通过机票预定系统的构造以及购票人的信息还有...

    汽车租赁系统数据库设计.doc

    并通过数据库原理软件设计实践,巩固在课堂教学中学习的关于数据库原理的 有关知识和数据库系统建立的方法,熟练掌握对于实际问题,为了建立一个关系数据库 信息管理系统,必须得经过需求分析、概念结构设计、逻辑...

    某公司自助餐管理系统数据库系统设计

    针对一般食堂管理信息系统的需求,通过对食堂管理工作过程的内容和数据流程分析,设计如下所示的数据项和数据结构: 数据结构名称:职工用餐卡信息 含义说明:这里指的是职工用来使用付款的工具卡的一系列信息,...

    《数据库课程设计》_大作业仓库管理系统设计与开发.docx

    本文通过分析浏览器/服务器结构的特点并结合企业仓储管理的实际情况,简要介绍了系统各功能模块及数据库的设计,着重讨论了用ASPNET 技术和SQLServer2005开发企业仓库管理系统时的数据库访问技术和动态网页制作技术...

    1数据库结构设计.doc

    一、数据库结构设计步骤 二、需求分析 三、概念结构设计 四、逻辑结构设计 五、数据库物理设计 数据库结构设计 一、数据库结构设计步骤 一般可将数据库结构设计分为四个阶段,即需求分析、概念结构设计、逻辑结构设 ...

    数据库课程设计-仓库管理系统.doc

    在设计过程中,需要进行相关资料查阅和学习,了解基本的业务流程和系统数据功能要求,然后结合软件工程的理论和教材中数据库设计的六个阶段完成设计任务,即系统结构设计和系统功能设计。系统结构设计包括需求分析、...

    03-数据库课程设计任务书-银行储蓄系统数据库设计.doc

    " "6.10-6.14 概念结构和逻辑结构设计 " "6.14-6.18 数据库实现 " "6.17-6.18 撰写课程设计说明书 " "6.19 验收答辩、成绩考核 " " " ----------------------- 03-数据库课程设计任务书-银行储蓄系统数据库设计全文...

    综合测评管理系统数据库系统设计

    然后介绍了系统的总体设计及业务流程分析和数据流程分析,并给出该系统的数据库结构设计。 在系统设计阶段,首先介绍了该系统的开发方法,并给出开发思路及系统所需模块设计图。 最后,详细介绍了各个模块的实现。...

    图书管理系统数据库详细设计.pdf

    管理信息模块 图书管理系统数据库设计 7 5、完整的 E—R 图 图书管理系统数据库设计 8 三、逻辑结构设计 1、数据库逻辑设计: 从 E—R 模型到理论关系模型的转换,通过 E_R 模型到关系 模型的转换我们可以得到如下...

    数据库系统设计实验报告.doc

    (3)设计该系统数据库的E-R图 (4)将设计好的E-R图转换为关系模式 读者(借书证号,姓名,性别,出生日期,借书量,单位,电话,E-mail) 图书(图书编号,图书名称,作者,出版社,定价,购进日期,购入数,复本...

    数据库系统原理 2018版本 pdf 04735

    该教材共分为八章,涵盖了数据库系统的基本概念、关系数据库、数据库设计、SQL语言与关系数据库基本操作、数据库编程、数据库安全与保护、数据库应用设计与开发实例、数据管理技术的发展等内容。 第一个重要的知识...

    人事工资管理系统数据库设计.doc

    人事工资管理系统 1问题描述 1.1设计目的 ...3.1数据库介绍 所谓数据库(Database)就是指按一定组织方式存储在一起的,相互有关的若 干个数据的结合,数据库管理系统(database Management System)就是一种操纵和管理

    图书销售管理系统数据库设计.pptx

    图书销售管理系统数据库设计 1.1项目描述 图书销售管理系统是实现图书销售信息化的重要手段,它能够保证图书销售信息的准确性、减少相关环节工作量,提高工作效率。图书销售管理系统包括图书查询、购买、评价等前台...

Global site tag (gtag.js) - Google Analytics