需要掌握哪些大数据算法?
1.C4.5
C4.5算法是机器学习算法中的分类决策树算法,其核心算法是ID3算法。C4.5算法继承了ID3算法的优点,在以下几个方面对ID3算法进行了改进:
1)用信息增益率来选择属性,克服了用信息增益选择属性时选择值较多的属性的缺点。
2)建树过程中的修剪;
3)可以完成连续属性的离散化;
4)能够处理不完整的数据。
C4.5算法有以下优点:生成的分类规则易于理解,准确率高。其缺点是在构造树的过程中,需要对数据集进行多次扫描和排序,导致算法效率低下。
2.k均值算法是k均值算法。
K-meansalgorithm是一种聚类算法,将N个对象按照其属性划分为K个分区,k 3.Supportvectormachines。
SupportVectorMachine (SVM)英文叫支持向量机。它是一种监督学习方法,广泛应用于统计分类和回归分析。支持向量机将向量映射到一个更高维的空间,在这个空间中建立一个具有最大区间的超平面。在分隔数据的超平面的两侧有两个平行的超平面。分离超平面使两个平行超平面之间的距离最大化。假设平行超平面之间的距离或间隙越大,分类器的总误差越小。一个很好的指南是C . j . CB pulses的《模式识别支持向量机指南》。VanderWalt和Barnard比较了支持向量机和其他分类器。
4.优先算法
Apriori算法是挖掘布尔关联规则频繁项集最有影响力的算法。其核心是一种基于两阶段频率集思想的递归算法。该关联规则在分类上属于单维、单层、布尔型关联规则。这里,所有支持度大于最小支持度的项集称为频繁项集,简称为频率集。
5.最大期望算法
在统计计算中,最大期望(EM)算法是一种寻找概率模型中参数的最大似然估计的算法,其中概率模型依赖于一个不可观测的潜在变量。最大期望常用于机器学习和计算机视觉的数据聚类领域。
6.PageRank
PageRank是Google算法的重要内容。2001年9月,被谷歌创始人之一LarryPage授予美国专利。所以pageRank中的page指的不是网页,而是Page,也就是这种排名方式以Page命名。
PageRank根据一个网站的外部链接和内部链接的数量和质量来衡量这个网站的价值。PageRank背后的概念是,一个页面的每一个链接都是对那个页面的投票,你得到的链接越多,你从其他网站得到的投票就越多。这就是所谓的“链接流行度”——衡量有多少人愿意将他们的网站链接到你的网站。PageRank的概念来源于一篇论文在学术界的引用频率——即被他人引用的次数越多,一般判断该论文的权威性越高。
7.adaboost算法
Adaboost是一种迭代算法,其核心思想是针对同一训练集训练不同的分类器(弱分类器),然后将这些弱分类器组装起来,形成一个更强的最终分类器(强分类器)。算法本身是通过改变数据分布来实现的。它根据每个训练集中每个样本的分类是否正确,以及最后一次总体分类的准确性来确定每个样本的权重。将权重修改后的新数据集送入下级分类器进行训练,最后将每次训练得到的分类器最终融合为最终的决策分类器。
8.kNN:k近邻分类
k近邻(KNN)分类算法是理论上比较成熟的方法,也是最简单的机器学习算法之一。这种方法的思想是:如果一个特征空间中的k个最相似(即最接近)样本中的大部分属于某个类别,那么这个样本也属于这个类别。
9.朴素贝叶斯
在众多分类模型中,使用最广泛的两个分类模型是决策树模型和朴素贝叶斯模型(NBC)。朴素贝叶斯模型源于经典数学理论,具有坚实的数学基础和稳定的分类效率。同时,NBC模型需要估计的参数少,对缺失数据不敏感,算法相对简单。理论上,与其他分类方法相比,NBC模型的错误率最小。但实际上并不总是这样,因为NBC模型假设属性相互独立,而这种假设在实际应用中往往是站不住脚的,这给NBC模型的正确分类带来了一定的影响。当属性个数较多或者属性之间的相关性较大时,NBC模型的分类效率不如决策树模型,当属性相关性较小时,NBC模型的性能最好。
10.CART:分类和回归树
购物车,分类和回归树.分类树下有两个关键的想法。第一个是关于递归划分自变量空间的思想;第二个想法是用验证数据进行修剪。