以下内容转自:http://www.cnblogs.com/aspnetx/archive/2009/09/24/1573513.html
本文将模拟一个数据仓库系统,其中有用户数据,产品数据以及订单数据。根据这些数据结构建立多维数据集,并且以增量更新的方式对其进行处理。
之所以强调增量的方式,是考虑到事实表中数据的增长,假设以后增长到几十亿,全量处理就变得很不现实,所以方案中着重演示以增量方式处理多维数据集的方案。
增量处理多维数据集的关键是要将事实数据分为两部分处理,一个是增量事实表,一个是历史事实表,多维数据集第一次处理历史事实表中的数据,以后每次周期性的处理都是处理增量表中的数据。
本文中提及的SQLServer和Visual Studio都是2008版本,2005版本同样也适用。
数据假设:一张用户表,一张产品表,一张订单表,订单里记录的是谁买了什么。多维数据集统计的需求就是根据订单统计谁买过什么。
首先,建立数据仓库,在数据引擎下新建BIDemo库。
接下来建立用户表,结构如下:
此外还有产品表:
以及历史订单表和建立增量订单表,它们的结构是一样的:
为了测试方便,我们在用户表中加入一些测试数据:
然后在产品表中加入一些测试数据
至于事实表,手动加入测试数据就不现实了,所以这里写了一个程序利用随机数来灌测试数据:
这个程序的代码可以在本文中找到。生成后的数据基本如下所示:
到此,测试的数据结构以及数据就已经准备好了,相当于有了一个小型的数据仓库。
接下来在Visual Studio中建立BI解决方案,方案下分为一个SSIS项目和一个SSAS项目。
在SSAS项目下建立数据源和数据源视图,这里需要注意的是,事实表用历史表,而不是增量表,尽管其还没有数据。
首先建立数据源,连接刚才建立的数据库,并且在数据源视图里定义好关系,如下图:
然后,根据此数据源视图建立多维数据集,需要注意的是,度量选择历史表,维度选择用户和产品两个表。
最后,部署多维数据集。这里只部署就可以了,不需要处理,处理任务将在以后的SSIS包中处理。
下面来看SSIS项目。在SSIS包里建立四个任务模块,类型分别如下:
前两个多维数据集处理模块是用来处理多维数据集的,数据流负责把增量事实表的数据导到历史事实表中,最后执行一个SQL任务把增量表中的数据删除。
两个多维数据集模块,前一个是专门处理维度,第二个是处理cube。这里之所以要把多维数据集维度处理单独拿出来放在前面,是因为在笔者经验中,对多维数据集的处理虽然是全部处理,但是新增维度的数据不会被聚合到其中,所以需要单独拿出来放在前面处理。
(题外话:对于这个地方笔者一直也不是很理解,按理说既然是全部处理那么怎么连维度都不处理呢,还需要单拿出来)
以下是设置维度处理模块,在界面中选择维度即可。
然后是cube处理模块,如下图。
然后指定增量更新,并且配置增量更新的数据表,这里指定增量表。
多维数据集处理完成之后就可以把增量表的数据放到历史表中了,以保证第二天加入的数据都是增量数据。
需要注意的是,在实际的运行当中,一定要保证BI的处理过程时业务系统没有发生数据,否则就会造成数据遗漏而导致不平。所以,BI的处理一般都是在凌晨。
然后是第三步的数据流模块,此部分的主要任务是将增量表的数据转移到历史表中。
最后的一个SQL任务是一个Delete或者Truncate table任务,把增量表里的数据清空。
最终的任务流程如下图:
执行包,全部成功之后应该如下图所示:
执行成功后,打开历史表,可以发现数据已经在里面了,而且增量表中的数据已经不存在了。
查询多维数据集,可以看到新的数据被聚合到其中。
通过以上透视表可以清晰的看到谁买了什么样的产品。
再次运行Rubbish往增量表里灌几条数据,然后重新运行此SSIS包,可以发现新增的数据已经被聚合到多维数据集中了,注意处理的方式是增量的。
本文提及的数据结构模型都很简单,主要介绍的是多维数据集处理的流程以及方法,重点阐述增量部分的方案,以及需要注意的问题。希望有知道更好方法的兄弟一起交流探讨。
本文提及的相关数据库,项目文件以及程序下载
FAQ:
1.增量数据是怎么来的?
笔者个人认为这个需要跟业务系统配合来做,比如加入触发器等。或者通过时间戳,到业务系统中能提取到。
2.如果有更新和删除怎么办?
通常是在本文提到的方案之上,再加一个度量值位,标识为1,代表新增。对于删除的记录,实际上是加入了一个同样的记录,并且表示为为-1。删除则是加入了两条记录,一条记录为-1跟删除差不多,一条就为1代表修改后的记录,三个一样的记录靠时间戳来标记哪一个是修改后的记录。主要就是以这个标识位作为度量进行统计。
分享到:
相关推荐
SQL报表商业智能BI使用增量方式处理多维数据集的例子。里面有数据库和实现的详细说明。
BI应用:数据分析和数据挖掘时代来临.pdf
FineBI操作:花10分钟做了一个台风数据可视化!
思迈特软件Smartbi:数据大屏显示实时数据解决方案.docx思迈特软件Smartbi:数据大屏显示实时数据解决方案.docx
商业智能BI多维数据源及多维分析.doc
新建多维数据集(CUBE) 部署维度和多维数据集 向已有数据集中添加度量和维度 报表创建(SSRS) 新建 Reporting Services 项目和共享数据源 添加共享数据集 普通报表创建和发布 移动报表创建和发布 自动作业设置 数据...
7.4制作科技感的BI看板:设备运维情况看板.xlsx
2022数据智能时代的敏捷BI:享受数据的无限价值(35页).pdf
20.Power Pivot之多维数据模型的创建 第3章:【Power BI 数据分析快速上手】综合案例:Power BI之大气质量数据分析 21.案例分析_大气质量(城市信息准备工作) 22.大气质量(导入大气质量文件夹数据) 23.大气质量...
商业智能(BI)-第8章-多维数据源及多维分析.pdf
POWERBI数据集打包,里面有各种数据集可以下载来做POWERBI实战练习,还有部分tableau数据集提供下载
DataFunSummit:2022年多维分析架构峰会PPT合集(38份)。 基于历史查询的 Impala 集群性能优化实践 Flink Table Store v0.2 应用场景和...多维数据分析平台在手游的技术演进 StarRocks 的多维分析场景与落地实践 等等
【自然语言处理】文本分类模型_BiLSTM+Attention_TensorFlow实现,是该博客https://blog.csdn.net/bqw18744018044/article/details/89334729的数据集,可能有点错误,请谨慎使用
内容概要:让初学者能高效、快捷掌握Hadoop必备知识,大大缩短Hadoop离线阶段学习时间。 适合人群:具备一定编程基础人员 ...基于数据仓库实现离线数据分析的可视化报表开发。 Hadoop生态综合案例 ——陌陌聊天数据分析
BI基础知识及微软多维数据库基础培训,学习BI的号东西
资源来自b站up主-孙新华zz 非常适合新手入手power Bi商业智能分析
一款开放式、支持多维设计与分析 的BI Dashboard应用.zip,An easy to use, self-service open BI reporting and BI dashboard platform.
Tableau:数据可视化之极速BI Tableau:数据可视化之极速BI
BI基础知识 数据仓库 数据挖掘 个人整理的笔记还不全,基础知识全是