数据挖掘分类算法实验报告 第1篇
应用iris数据集分别利用实验中的算法分析预测，最终结果选用算法准确率最高，准确分类率为98%。通过实验，也让我更深刻的学习到这三种算法的应用数据集和其优缺点，基本掌握weka平台操作。
关于KNN算法是最简单有效的分类算法，简单且容易实现。当训练数据集很大时，需要大量的存储空间，而且需要计算待测样本和训练数据集中所有样本的距离，所以非常耗时。KNN对于随机分布的数据集分类效果较差，对于类内间距小，类间间距大的数据集分类效果好，而且对于边界不规则的数据效果好于线性分类器。KNN对于样本不均衡的数据效果不好，需要进行改进。改进的方法时对k个近邻数据赋予权重，比如距离测试样本越近，权重越大。KNN很耗时，时间复杂度为O(n)，一般适用于样本数较少的数据集，当数据量大时，可以将数据以树的形式呈现，能提高速度，常用的有kd-tree和ball-tree。
关于算法：
优点：产生的分类规则易于理解，准确率较高。
缺点：在构造树的过程中，需要对数据集进行多次的顺序扫描和排序，因而导致算法的低效。此外，只适合于能够驻留于内存的数据集，当训练集大得无法在内存容纳时程序无法运行。
关于朴素贝叶斯算法，贝叶斯方法不仅能够计算显式的假设概率，还能为理解多数其他方法提供一种有效的手段。贝叶斯方法的特点主要包括：增量式学习的特点；先验知识可以与观察到的实例一起决定假设的最终概率的特点；允许假设做出不确定性预测的特点；对新实例的分类可由多个假设以它们的概率为权重一起作出预测的特点等等。算法处理里的数据集特征之间互不相关，主要应用于文本分类、性别分类。
数据挖掘分类算法实验报告 第2篇
实验采用Weka 平台，数据使用给定的鸢尾花xls格式的数据集。 对于iris数据集，它包含了150个实例（每个分类包含50个实例），共有sepal length、sepal width、petal length、petal width和class五种属性。期中前四种属性为数值类型，class属性为分类属性，表示实例所对应的类别。该数据集中的全部实例共可分为三类：Iris Setosa、Iris Versicolour和Iris Virginica。
实验所需的训练集和测试集均为。
数据挖掘分类算法实验报告 第3篇
不通过调用相关接口，动手实现KNN和朴素贝叶斯分类方法。具体包括：
读取数据集的函数；
将数据集中的字符串型特征转换为浮点型，将字符串型类别转换为整型；
设计实现K折交叉验证；
使用5折交叉验证评估KNN算法（邻近性度量使用欧氏距离，最近邻的个数取5）和朴素贝叶斯算法（使用高斯概率密度函数估计条件概率）的准确率性能；
分别用训练好的KNN和朴素贝叶斯算法预测未知类别记录[, , , ]的类标号。
数据挖掘分类算法实验报告 第4篇
1、先将数据集放入Weka 平台中
第一步：将原始Excel文件另存为CSV文件
第二步：在weka中打开iris数据集.csv文件，另save为.arrf文件，然后在weka中打开iris数据集.arrf文件即可。
2、在waka中应用iris数据集，分别采用KNN、决策树分类器和朴素贝叶斯分类器进行测试和评价。
打开iris数据集remove（移除）无关数据，本次试验中去掉原数据中的序号：
关于K的取值，从1开始，逐次增1选取产生最小误差率的K，一般来说不超过20。先将数据作为训练集检测，在进行交叉验证。
kNN算法的核心思想是如果一个样本在特征空间中的k个最相邻的样本中的大多数属于某一个类别，则该样本也属于这个类别，并具有这个类别上样本的特性。该方法在确定分类决策上只依据最邻近的一个或者几个样本的类别来决定待分样本所属的类别。 kNN方法在类别决策时，只与极少量的相邻样本有关。由于kNN方法主要靠周围有限的邻近的样本，而不是靠判别类域的方法来确定所属类别的，因此对于类域的交叉或重叠较多的待分样本集来说，kNN方法较其他方法更为适合。
算法是ID3算法的改进，算法与ID3算法一样使用了信息熵的概念，并和ID3一样通过学习数据来建立决策树。
由实验数据可得，鸢尾花花瓣宽度小于等于的均为setosa类的鸢尾花；花瓣宽度大于且花瓣长度小于等于的有48株为versicolor种类的鸢尾花；花瓣宽度大于且花瓣长度大于的有46株为virginica种类的鸢尾花。
贝叶斯方法提供了推理的一种概率手段。它假定待考查的变量遵循某种概率分布，且可根据这些概率及己观察到的数据进行推理，从而作出最优的决策。
本次实验利用朴素贝叶斯算法分类结果如图所示：
数据挖掘分类算法实验报告 第5篇
１）算法原理 决策树算法依据对一系列属性取值的判定得出最终决策。在每个非叶子节点上进行一个特征属性的测试，每个分支表示这个特征属性在某个值域上的输出，而每个叶子节点对应于最终决策结果。使用决策树进行决策的过程就是从根节点开始，测试待分类项中相应的特征属性，并按照其值选择输出分支，直到到达叶子节点，将叶子节点对应的类别作为决策结果。算法的目的是产生一棵泛化性能强，即处理未见数据能力强的决策树。 ２）具体要求 1）利用相应库中算法对鸢尾花数据构建决策树； 了解sklearn相关库中决策树分类方法的接口，清洗、预处理处理鸢尾花数据，说明该方法对数据集的要求。 2）可视化决策树； 了解pydotplus、GraphViz等相关库中决策树可视化方法的接口，结合上述构建方法中参数的设置，分析每次构建的树的层数及叶子数目。 3）分别查看训练集、测试集上模型的评估指标（准确率）； 对鸢尾花数据进行分割，或使用交叉验证等方法对每次形成的决策树进行评估。 4）（选做）自己编写ID3/决策树分类算法，构建决策树，并评估模型。 首先对数据进行预处理，主要包括缺失值的处理以及连续属性的离散化方法；然后进行各个模型的实现，包括:数据集中属性的信息增益（或信息增益率、gini指数）的计算；选择最佳划分属性；以及构建决策树的递归方法等。 实验代码：
实验截图： 决策树结构展示：
决策树分类器：
高斯分类器：
随机森林分类器：
支持向量机分类器：
交叉验证：
预测图：