大数据建模与分析挖掘应用

1、（互联网广告服务提供商等、银行金融证券企业、电信运营等行业，给这些行业带来了一定的数据价值增值作用。HadoopSparkBI本课程基本的实践环境是 Linux 集群，JDK1.8， Hadoop 2.7.*，Spark 2.1.*。i5CPU4GB50G（可用移动硬盘基本的大数据分析平台所依赖的软件包和依赖库等，讲师已经提前部署在虚拟机镜像（VMware，学员根据讲师的操作任务进行实践。作，本课程讲师也精心准备的实际的应用案例供学员动手训练。大 纲 Outline业界主流的数据仓库工具和大数据分析挖掘工具HadoopSpark3.HadoopHive4.SparkSparkSQL 5.Had

2、oopMahoutSparkMLlib大数据分析挖掘项目的实施步骤大数据分析挖掘项目的数据集成操作训练日志数据解析和导入导出到数据仓库的操作训练从原始搜索数据集中抽取、集成数据，整理后形成规范的数据仓库库同一个数据仓库中的事实表数据，可以给多个不同类型的分析挖掘任务调用去除噪声基于 Hadoop 的大型数据仓库管理平台HIVE 数据仓库集群的多维分析建模应用实践6.基于 Hadoop 的大分布式数据仓库在行业中的数据仓库应用案例7.Hive8.Hive ServerHiveHiveHive SQLHiveHiveHadoop + HiveSpark16.SparkMLlibSparkHive聚

3、类分析建模与挖掘算法的实现原理和技术应用Spark MLliba)Canopy（canopy clustering）K（K-means clustering）K（Fuzzy K-means clustering）EM（Expectation Maximization）Spark MLib19.Spark分类分析建模与挖掘算法的实现原理和技术应用20.Spark MLlib用， 包括：Spark逻辑回归算法（logisticsregression） h)贝叶斯算法（BayesianCbeyes）支持向量机（Support vector machine）Spark MLlib21.SparkSpa

4、rkSpark关联分析建模与挖掘算法的实现原理和技术应用Spark MLlib现与应用，包括：Spark（parallel FP Growth Algorithm）应用Spark（Apriori）算法及其应用Spark MLib25.Spark推荐分析挖掘模型与算法技术应用Spark MLliba)Sparkb)Item-basedc)User-basedd)交叉销售推荐模型及其实现回归分析模型与预测算法利用线性回归（多元回归）实现访问量预测利用非线性回归预测成交量和访问量的关系R+SparkSpark31.Spark GraphX要性排名实现信息传播的社交关系传递分析，互联网用户的行为关系分析任务的操作训练神经网络与深度学习算法模型及其应用实践Neural Network34.基于人工神经网络的深度学习的训练过程a)传统神经网络的训练方法b)Deep Learning 的训练方法35.深度学习的常用模型和方法a)CNN（Convolutional Neural Network）b)RNN（Recurrent Neural Network）c)Restricted Boltzmann Machine(RBM36.Spark日志分析系统与日志挖掘项目实践a)Hadoop，Spark，ELKb)互联网微博日志分