`
wp63
  • 浏览: 30674 次
  • 性别: Icon_minigender_1
  • 来自: 山西...
最近访客 更多访客>>
社区版块
存档分类
最新评论

KDD

    博客分类:
  • BI
阅读更多
 知识发现(KDD:Knowledge Discovery in Databases)是从数据集中识别出有效的、新颖的、潜在有用的,以及最终可理解的模式的非平凡过程。知识发现将信息变为知识,从数据矿山中找到蕴藏的知识金块,将为知识创新和知识经济的发展作出贡献。
  数据库知识发现(knowledse discovery in databases,KDD)的研究非常活跃。该术语于1989年出现,Fayyad定义为"KDD"是从数据集中识别出有效的、新颖的、潜在有用的,以及最终可理解的模式的非平凡过程”。在上面的定义中,涉及几个需要进一步解释的概念:“数据集”、“模式”、“过程”、“有效性”、“新颖性”、“潜在有用性”和“最终可理解性”。数据集是一组事实 F(如关系数据库中的记录)。模式是一个用语言L来表示的一个表达式E,它可用来描述数据集F的某个子集凡上作为一个模式要求它比对数据子集FE的枚举要简单(所用的描述信息量要少)。过程在KDD中通常指多阶段的处理,涉及数据准备、模式搜索、知识评价以及反复的修改求精;该过程要求是非平凡的,意思是要有一定程度的智能性、自动性(仅仅给出所有数据的总和不能算作是一个发现过程)。有效性是指发现的模式对于新的数据仍保持有一定的可信度。新颖性要求发现的模式应该是新的。潜在有用性是指发现的知识将来有实际效用,如用于决策支持系统里可提高经济效益。最终可理解性要求发现的模式能被用户理解,目前它主要是体现在简洁性上。有效性、新颖性、潜在有用性和最终可理解性综合在一起称为兴趣性。
  由于知识发现是一门受到来自各种不同领域的研究者关注的交叉性学科,因此导致了很多不同的术语名称。除了 KDD外,主要还有如下若干种称法:“数据挖掘”(data mining),“知识抽取”(information extraction)、“信息发现”(in1ormation discovery)、“智能数据分析”(intelligent data analysis)、“探索式数据分析”(exploratory data analysis)、“信息收获”(Information harvesting)和“数据考古”(data archedogy)等等。其中,最常用的术语是“知识发现”和“数据挖掘”。相对来讲,数据挖掘主要流行于统计界(最早出现于统计文献中)、数据分析、数据库和管理信息系统界;而知识发现则主要流行于人工智能和机器学习界。
[编辑本段]1.KDD基本过程(the process of the KDD)
  作为一个KDD的工程而言,KDD通常包含一系列复杂的挖掘步骤. Fayyad,Piatetsky-Shapiro 和 Smyth 在 1996年合作发布的论文<From Data Mining to knowledge discovery>中总结出了KDD包含的5个最基本步骤(如图).
  1: selection: 在第一个步骤中我们往往要先知道什么样的数据可以应用遇我们的KDD工程中.
  2: pre-processing: 当采集到数据后,下一步必须要做的事情是对数据进行预处理,尽量消除数据中存在
  的错误以及缺失信息.
  3: transformation: 转换数据为数据挖掘工具所需的格式.这一步可以使得结果更加理想化.
  4: data mining: 应用数据挖掘工具.
  5:interpretation/ evaluation: 了解以及评估数据挖掘结果.

2.常用KDD过程模型 (KDD process model)

随着Fayyad,Piatetsky-Shapiro 和 Smyth 在 1996年总结出的KDD5个基本步骤, 各种不同的KDD过程模型
  在此基础上发展以及完善起来.整体来说,KDD过程模型包含"学术模型"(academic research model)以及"
  工业模型"(industrial model)两大类. 常见的KDD过程模型有:
  1996 年Fayyad等人提出的 "9 步骤模型"(nine-steps model).
  1999 年 european commission 机构起草的CRISP-DM 模型. (cross-industry standard process for
  data mining)

分享到:
评论

相关推荐

    KDD99入侵检测数据预处理和分类源代码及数据集.zip

    1、内容概要:本资源主要基于Python实现kdd99入侵检测数据集预处理,搭建DNN和CNN神经网络实现kdd99入侵检测分类,适用于初学者学习入侵检测分类使用。 2、入侵检测数据集: 该数据集是从一个模拟的美国空军局域...

    kddcup99 数据集

    KDDCup99的原始数据来自于1998年的DARPA入侵检测评估项目,所有的网络数据来自于一个模拟的美国空军局域网,网络中加了很多模拟的攻击。实验的训练数据为7周的网络流量,这些网络流量包含有约500万条网络连接;实验的...

    NSL-KDD 入侵检测数据集.zip

    NSL-KDD数据集是KDD99数据集的改进,可以作为有效地基准数据集,各机器学习算法可以在NSL-KDD数据集上进行入侵检测实验。 NSL-KDD数据集是KDD 99数据集的改进: 1、NSL-KDD数据集的训练集中不包含冗余记录,所以分类...

    基于KDD CUP 99数据集的入侵检测分类程序-研究论文

    这个问题激发了一些专家来发现根据数据挖掘来减少错误警报的解决方案,这是在大数据(例如KDD CUP 99)中使用的分析过程的考虑因素。本文对处理入侵检测中的错误警报的各种数据挖掘分类进行了综述。 。 根据测试...

    KDD CUP 98 数据集-3

    KDD CUP98 的数据集,下面是数据集的部分数据: CONTROLN,TARGET_B,TARGET_D 3,0,0 6,0,0 9,0,0 11,0,0 16,0,0 19,0,0 20,0,0 23,0,0 24,0,0 25,1,25 28,0,0 29,0,0 30,0,0 31,0,0 33,0,0 34,0,0 35,0,0 36,0,0 39,0...

    NSL-KDD-Dataset-master_NSL-KDD数据集_入侵检测_KDD_

    NSL-KDD数据集,应用于入侵检测方面,由四部分组成

    KDD Cup 1999数据集特征含义

    KDD Cup 1999数据集特征含义

    CNN处理kdd99数据集(tensorflow实现)

    基于Tensorflow用CNN(卷积神经网络)处理kdd99数据集,代码包括预处理代码和分类代码,准确率99.6%以上,并且快速收敛至最优值。 (Based on Tensorflow (convolutional neural network) processing KDD99 data set ...

    NSL-KDD_NSL-KDD_NSL-KDD数据集_测试集_

    NSL-KDD的训练集和测试集,可用于入侵检测系统的设计

    kddcup.data-10-percent-corrected与kddcup.data-10-percent-correcte

    kddcup.data_10_percent_corrected与kddcup.data_10_percent_corrected,数据齐全

    网络入侵检测系统kddcup1999数据集

    分析、测试、验证全套kddcup1999数据集

    kddcup.data_10_percent

    kddcup.data_10_percent

    KDD99数据集的归一化

    将KDD99数据集中的符号性变成数值化,编程语言是Python; KDD数据集的每条连接记录是有38个数字特征和3个符号型特征组成,要相对数据进行处理首先要进行数据的标准化。符号型特征数值化。采用属性映射的方法

    NSL_KDD数据集

    用于机器学习入侵检测的数据集,NSL_KDDNSL-KDD 这是KDD数据的改进版。进行网络入侵检测的研究生人员可以下载。

    2009KDD-CUP数据挖掘竞赛专用数据

    KDD-CUP是公认的数据处理领域内的最高水平的赛事之一,竞赛所用数据往往被数据挖掘初学者用作数据处理训练之用。这是2009年KDD-CUP竞赛所使用数据的small版,非常适合初学者使用。仅供分享

    KDD CUP 98 数据集-2

    KDD CUP98 的数据集,下面是数据集的部分数据: CONTROLN,TARGET_B,TARGET_D 3,0,0 6,0,0 9,0,0 11,0,0 16,0,0 19,0,0 20,0,0 23,0,0 24,0,0 25,1,25 28,0,0 29,0,0 30,0,0 31,0,0 33,0,0 34,0,0 35,0,0 36,0,0 39,0...

    KDDCUP99数据集预处理结果.zip

    KDD CUP99数据集中kddcup.data_10_percent训练集和corrected测试集字符特征数字化结果。1为原数据txt形式,2为数字化结果。

    KDD CUP 98 数据集-1

    KDD CUP98 的数据集,下面是数据集的部分数据: CONTROLN,TARGET_B,TARGET_D 3,0,0 6,0,0 9,0,0 11,0,0 16,0,0 19,0,0 20,0,0 23,0,0 24,0,0 25,1,25 28,0,0 29,0,0 30,0,0 31,0,0 33,0,0 34,0,0 35,0,0 36,0,0 39,0...

    KDD CUP99和UNSW_NB15入侵检测数据集

    KDD CUP99数据集:是网络入侵检测领域的事实Benckmark,为基于计算智能的网络入侵检测研究奠定基础。 UNSW_NB15数据集:是综合性的网络攻击流量数据集,包括训练数据和测试数据,被广泛应用于异常入侵检测。相比于...

Global site tag (gtag.js) - Google Analytics