大数据分析方向教学计划

1、大数据分析课程标准一、课程定位现在企业为了提升客人使用体验,提高业务效率,在大数据蓬勃发展的阶段里,需要对现有业务系统进行转型升级;作为大数据核心部分,大数据研发工程师应用成为有大量数据的企业必备人才,在数据处理,数据分析方面,大数据研发是不可或缺的技能。随着大数据应用的大量普及,开源框架,比如hadoop,spark等,也得到长足发展。本课程除了着力于统数据的收集和搭建,使得作为大数据的研发/分析带来基础设施,让学员掌握,同时,对大数据的离线/实时处理和部分数据分析进行深度理解和把握。通过本课程,掌握大数据平台并且对大数据分析的基本技能和方法,为将来在企业分析大数据做决策打下基础。二、课程性

2、质与作用课程性质大数据分析课程。课程作用大数据分析是数据清洗过后使得数据产生价值的过程。在企业丰富应用场景中,通过标准的大数据分析方法不能胜任的情况下,就需要通过先验知识来验证大数据并找出规律来达到业务目标。在实际工作中,掌握大数据研分析需要展示的数理统计分析的知识,敏锐的数据观察力,和部分软件开发的知识,也需要比较扎实的计算机基础。本课程大纲是完整的课程,实际培训课程中,会根据学员实际情况进行分组。通过本课程的学习。三、课程目标课程教学以灵活运用分析方法为目标,以实际项目为中心,以合理知识结构分解为手段,结合实际的应用场景,对大数据进行文本,图标等大数据进行分析和学习,主要以实际操作让学员对

3、相关知识点掌握,达到理论与实际结合,教学与企业融合的内容。学员学成后,能够利用清洗后的数据,根据提供的先验知识,可以做出模型并能够预测业务数据。课程内容始终围绕全面提升学生的理论和操作的熟练程度、规范化程度以及职业素质三个方面展开。(一知识目标1.理解大数据概念及应用场景,先导课程Linux的操作3. 掌握大数据HDFS 、HBase 、Hadoop 集群搭建及数据批处理。4. 离线工具ETL 和hive 的安装及应用。5. 数据可视化的应用6. 真实(二能力目标1.全局的眼光理解大数据,理解大数据的应用,并有总体的概念。2.理解企业中实际生产环境的大数据搭建,收集,分析,应用的过程。3.具备

4、在实际应用场景中,能对数据处理流程,数据挖掘进行个性化处理。 四、课程设计主要指课程设计的总体思路:课程设计围绕大数据分析的基础和方法,考虑到实际企业生产环境中的应用场景,课程中采用实际案例,从案例分析、启动、实施、验证各环节剖析讲解,与真实环境同步。课程案例选取:以搭建支持10GB 的数据为目标,在目标3机器上部署大数据仓库,并能实际运行。模拟手机1GB 的数据,能够通过Hive 进行查询,为将来数据清洗和数据分析提供基础。五、课程内容与要求先导知识R 语言Hadoop 生态算法及模型大量案例 R 简介 函数与对象 编写脚本 R 绘图 编写函数 数据保存 Python 语言（二选一） 1.环

5、境搭建及 Python 基础 R 是开源软件，多操 作系统， 众多程序包， 应用于各行各业。 1.环境搭建 2.Python 基本数据结 构 3.Python 基本语法 2.python 基础 工具库 1. NumPy 基础：数组 和矢量计算 2. 高级数据结构和 操作工具：Pandas 3. 数据加载、 存储与 文件格式 4. 数据规则化 5. 绘图与可视化 mllib 开发和 Graphx 简介 MLlib 的架构 MLLib 中的算法 算法应用案例 Graphx 简介与 核心功能 数据分析 数据分析与挖 掘 1.数据聚合与分组运 算 2.利用 statsmodels 进行统计分析 3.利

6、用 statsmodels 进行回归分析 6/8 4.时间序列分析 5.常见算法介绍 6.数据挖掘项目实操 案例分析 营销数据案例 分析 互联网数据案 例分析 ARPU 分析 漏斗分析 1.感知机 2.决策树、随机森林 3.支持向量机(SVM 4.正则化方法 5.主成分分析(PCA 1. 特征工程 2. 参数调优 3. 集成学习 4. 文本挖掘 机器学习 机器学习基础 机器学习高级 机器学习案例 讲解 1.web 数据可视化概 述 2.爬虫与数据处理 3.图表可视化 4.webGIS 数据可视化 5.图可视化 数据可视化 webGIS 数据可 视化 图可视化 数据风控 1.风控架构 2.反欺诈 3.信用评估 4.贷后管理 五、考核标准 7/8 本课程属于实践性、应用性比较强的