智慧高校大数据建设方案-智慧高教大数据建设方案-课件

互联网+智慧高校大数据建设方案互联网+智慧高教大数据建设方案互联网+智慧校园大数据建设方案互联网+智慧高校大数据建设方案01现状分析开发背景面临挑战01现状分析开发背景大数据高校大数据开发背景战略机遇：培养大数据人才、利用高校大数据深化高校管理促进高校改革发展、使用大数据平台提高高校科研水平和效率，既是高校面临的重要任务，也是高校发展的战略机遇。大数据正在逐渐成为社会基础设施，成为每一家组织机构的标配。“大数据”之“大”，更多的意义在于：人类可以“分析和利用”的数据在大量增加，通过这些数据的交换、整合和分析，人类可以发现新的知识，创造新的价值，并让很多常态化的认知、判断、思维定式、产品形态、服务模式，形成全新的面貌和演进方向。

大数据已经引起国际社会的高度重视，世界各国都在加快推进大数据战略布局。大数据产业已上升至国家战略高度，正日益渗透到经济发展和社会生活的方方面面。2015年9月5日，国务院发布《促进大数据发展行动纲要》，文件指出“数据已经成为国家基础性战略资源”，并在启动的十大工程之一“公共服务大数据工程”中明确提出要建设教育文化大数据。

教育大数据已经上升到国家战略层面，引起社会各界的广泛关注和高度重视。教育大数据将首先破解传统教育面临的六大难题（发展不均衡难题、方式单调化难题、信息隐形化难题、决策粗放化难题、择校感性化难题、就业盲目化难题），助推教育的全方位变革与创新发展。

确立教育大数据在我国教育事业发展与改革中的战略地位已是国家教育现代化建设的必然要求。教育大数据是重要的国家战略资产、教育领域综合改革的科学力量与发展智慧教育的基石。

人类社会已经迎来“大数据时代”。培养大数据人才、利用高校大数据深化高校管理促进高校改革发展、使用大数据平台提高高校科研水平和效率，既是高校面临的重要任务，也是高校发展的战略机遇。大数据高校大数据开发背景战略机遇：培养大数据人才、利用高校大大数据高校面临的大数据问题01020304数据来源多元化，共享数据库涵盖系统多，高校生源不断扩张，信息不断积累，致使数据库中的信息不断增加，进而为数据挖掘、管理和分析带来了困难。数据规模日益庞大高校不同学科与专业采用的大数据环境大多依赖现有的IT环境，导致大数据运行的基础软硬件环境比较混乱且极其不稳定，缺乏有效的运维管理，严重影响教学和科研工作的正常进行。缺乏稳定高效的大数据环境校园的信息仍然停留在收集和累积阶段，尽管移动终端系统的不断发展为信息采集带来了极大的便利，但采集后的数据仅仅停留在查询阶段，并没有对数据进行整合、分析和梳理，使得这些信息仍未被管理者采用，作为决策依据的信息则少之又少。数据利用不充分数据剧增由量变引起质变，使科研人员的思维和行为模式在传统的学科研究领域发生转变。如何借助大数据相关技术以及资源，找到本学科研究成果的新视角，已经成为当前高校研究的重要课题。数据驱动带来的科研新挑战大数据高校面临的大数据问题01020304数据来源多元化大数据高校面临的大数据问题主要是数字化校园系统产生数据数据的维度少，业务来源不足数据量百GB到几TB，数据量少以结构化数据为主，达不到大数据要求部份数据源有错误，数据不一致业务接口与数据结构不规范数据涉及面窄有效数据量少数据接口不完善数据源的问题分析大数据高校面临的大数据问题主要是数字化校园系统产生数据数据大数据高校面临的大数据问题校领导决策更加科学教师教学更加便捷教学水平提升学生随时随地个性化学习家长及时掌握子女在校情况教学管理与服务管理更加简单高效服务水平不断提升校园环境更加绿色、环保、安全信息化覆盖范围和服务水平有效提升社会更多优质教育资源和科研成果开放共享高校大数据服务用户分析大数据高校面临的大数据问题校领导教师学生家长教学管理与服务大数据高校业务常见应用系统数据中心教务系统学工系统一卡通系统设备管理系统科研管理系统医疗管理系统研究生管理系统上网行为管理系统网络计费系统无线WiFi系统宿舍管理系统图书管理系统房产管理系统财务系统人事系统基本信息基本信息、成绩等贫困生、奖学金等流水账岗位、职称等专业、研究方向等大数据高校业务常见应用系统数据中心教务系统学工系统一卡通系统大数据高校常见业务系统详细数据分析大数据高校常见业务系统详细数据分析大数据高校大数据常见服务用户类型用户类型校领导具体需求1、师生整体情况2、学校舆情3、科研水平4、资产情况用户类型院领导具体需求1、学院各专业各班级的集体/个人行为画像2、学院教师的课程和科研情况用户类型校工会具体需求1、评判贫困生、奖助学金结果的合理性，识别冒领人员2、教职工的劳资情况用户类型设备处具体需求1、现有资产现状2、资产发展趋势3、各品牌资产的故障率4、各单位资产采购规划用户类型企业具体需求根据学生行为画像情况和企业岗位要求匹配度，推荐学生到企业实习或就业用户类型图书馆具体需求1、图书馆藏现状2、图书借阅现状3、趋势分析4、图书采购规划用户类型老师具体需求1、班级成绩2、班级/个人行为画像3、图书借阅，推送书籍4、科研情况用户类型校医院具体需求1、药品收支率2、学校健康档案

3、传染病预防和治疗4、分析药品副作用用户类型本科生/研究生具体需求1、成绩和能力情况2、就业市场和招聘指导3、图书借阅4、消费、网络大数据高校大数据常见服务用户类型用户类型校领导具体需求1、师大数据高校大数据建设的其它行业问题关联分析统一规划运维服务大数据高校大数据建设的其它行业问题关联分析统一规划运维服务大数据高校大数据平台建设意义高校作为高科技人才以及创新技术的摇篮，承载着科研攻关和人才培养的双重使命。在新的科技浪潮中，高校应瞄准时代最前沿，将教学科研创新、专业人才培养与大数据紧密融合在一起，在更高起点上推动学校在大数据教学、科研以及创新方面再上新台阶。建设意义010205040306实现个性化学习集成教育数据挖掘与学习分析技术，持续采集学习行为数据，智能分析，推送适合的学习资源并进行个性化学习建议。实现教育评价体系重构采集教与学的全过程数据，全面客观记录学生成长轨迹，引导学生培养模式和教育质量管理方式科学健康发展。实现科学研究范式转型解决科研经费等科研管理难题，提供便捷的技术支撑与人性化服务，提高研究的效率和结果的可信度。实现科学化教育管理注重相关关系识别，强调因果关系的确定，发现隐藏的、有用的信息，做好教育管理和决策工作的数据支持。实现教学模式改革教学数据分析与预测，改变教学模式，实现个性化教育，调整教学方案，优化教学方法，提高教学质量。开启“大数据创客”新模式完成创新应用及发布，完善高校信息化建设，提升高校实力，加速创客成果转化，推动创意实现产业化，打造具有影响力的“创客校园”。大数据高校大数据平台建设意义高校作为高科技人才以及创新02技术实现技术架构标准体系业务开发平台应用开发与服务02技术实现技术架构业务开发平台大数据高校大数据平台技术架构以构建基础硬件层为底层支撑，利用云计算、大数据的数据集成、数据安全、服务器集群、数据计算与挖掘分析等技术，遵循“18”（1个中心平台8大技术标准）大数据标准体系，通过HIVE和HBASE构建大数据数据中心。在此基础上，公司自主研发了“国子数据魔方”业务开发平台，通过业务开发平台进行应用开发、应用发布、服务注册的信息化管理，并可以将应用以可视化界面展示给用户，为领导决策提供数据依据。架构示意图如下：大数据高校大数据平台技术架构以构建基础硬件层为底层支撑，利用大数据高校大数据平台技术架构1、基础硬件层基础硬件层是由一组低廉的PC或服务器组合构建而成。基础硬件层主要承载着数据的存储、运算、容错、调度和通信等任务，对基础应用层下达的指令进行执行和反馈。2、数据集成大数据特征表现在实时、交互、海量等方面，并且以半结构化、非结构化数据为主，价值密度低，为了更好地“让数据说话”，并充分发挥大数据价值效应，应坚持“能采尽采”的原则，数据源的涵盖范围要尽量大。3、数据计算与分析挖掘大数据平台涵盖了大数据场景下常用的计算场景，包含离线计算、实时计算、流式计算、数据挖掘与机器学习等。可以更容易、更方便地构建全生命周期的数据湖，使数据的加工、处理、创新过程更加丰富，从而实现数据的更大价值。5、服务器集群服务器集群是将很多服务器集中起来一起进行同一种服务，集群可以获得更高的计算速度，也可以用作备份，任何一个服务器损坏整个系统都能正常运行。群集化操作可以减少单点故障数量，实现群集化资源的高可用性。4、数据安全大数据平台通过一系列的认证授权和资源隔离机制，实现数据资源的安全性、可维护性、可用性、可信性。提供统一认证服务负责对使用者的身份进行验证；提供统一授权服务负责对用户的资源访问权限进行控制；提供统一资源调度负责对用户使用的底层资源进行隔离。大数据高校大数据平台技术架构1、基础硬件层基础硬件层是由一大数据高校大数据平台技术架构6、大数据技术标准一个中心平台：大数据业务开发平台。8大技术标准：基础标准、数据表示标准、数据处理标准、数据存储标准、数据服务标准、数据安全和隐私标准、行业大数据标准、大数据产品测试标准。

7、大数据数据中心通过对各种类型的结构化、半结构化、非结构化数据信息的采集、预处理、分析处理以及存储等相关操作，构建统一、规范、全面的大数据数据中心，为相关工作提供数据支持。8、大数据业务开发平台以Hadoop为核心，融合优秀技术，提供开放的数据和业务开发平台，进行应用开发、应用发布、应用注册及应用服务的信息化流程管理，从而提升了大数据应用体验，有利于发挥创新精神，创造无限价值。9、大数据业务可视化分析大数据业务可视化分析能够将隐藏于海量数据中的信息和知识挖掘出来，为用户提供可视化的操作分析界面；为用户的相关活动提供数据依据，从而提高工作效率。大数据高校大数据平台技术架构6、大数据技术标准一个中心平台：大数据高校大数据平台标准体系大数据信息标准为数据收集、数据处理、数据存储、数据分析与挖掘提供指导和参照标准，加快建立高校信息采集、存储、公开、共享、使用、质量保障和安全管理等技术标准，引导建立信息共享交换的标准规范，促进信息资源开发利用，实现大数据汇聚整合，为大数据、云计算提供强有力的基础支撑。抓好大数据标准体系建设，推进国家大数据战略实施，应对三方面需求：面向高校教育的需要，研制开放、共享大数据标准；助力高校教育创新发展，制订典型领域相关标准；保障资源安全、保护个人隐私，研制安全标准等，以数据为基本元素进行数据安全管理，规范数据的共享、使用和管理的整个流程，解决跨平台的数据交互、数据开放共享等难题。公司对我国现有标准、在研标准和将提出的标准计划进行梳理，依据大数据技术体系，从基础、技术、产品、应用等不同角度进行分析，形成了大数据标准体系框架，按照"18"的理念进行设计，即以"国子数据魔方"业务开发平台为支撑，构建基础标准、数据表示标准、数据处理标准、数据存储标准、大数据服务标准、大数据安全和隐私标准、行业大数据应用标准和大数据产品测试八大技术标准。大数据高校大数据平台标准体系大数据信息标准为数据收集、数据处大数据高校大数据平台标准体系通过平台和技术标准的建设，整合和引导资源、激活科技要素、推动自主创新与开放创新，促进大数据健康发展；加速技术积累、科技进步、创新成果推广，加速大数据在高校的广泛应用，促进高校全面、协调、可持续发展；解决数据共享难、数据格式不统一、数据标准不规范、数据重复建设等难题。大数据高校大数据平台标准体系通过平台和技术标准的建设，整合和大数据高校大数据平台标准体系1、基础标准大数据术语、大数据参考架构、大数据平台架构标准，能够更加切合实际的对相关操作进行描述，形成统一数据标准，进而为数据库提供基础支撑和服务。2、数据表示标准数据编码规范、元数据规范、非结构化数据、数据集统一描述规范等，确保数据信息的交互共享，进而消除信息孤岛。3、数据处理标准数据质量评价标准、数据采集标准、数据组织标准等大数据处理阶段相关的标准规范，消除变量自身变异和数值大小的影响，为大数据应用打下良好的基础。4、数据存储标准

非关系型数据库规范、非结构化数据管理系统规范等大数据背景下的新型存储系统相关规范，有助于数据进行交互式传输和管理，提高存储量、存储速度，进而为大数据快速挖掘、提取、分析提供基础。大数据高校大数据平台标准体系1、基础标准大数据术语、大数据大数据高校大数据平台标准体系5、大数据服务标准提供大数据实时分析服务、可视化服务等一系列大数据服务的标准化描述和接入，提升数据之间的关联性，降低数据分析的复杂度，大幅度提高分析的准确性。6、大数据安全和隐私标准大数据对外服务时，制定数据存储安全、数据传输安全、数据分析挖掘安全等方面的标准，为安全面临的内部管理和外部攻击提供可靠的数据存储、安全的挖掘分析、严格的运营监管。7、行业大数据应用标准相关领域大数据应用、领域大数据的分类和编码等方面的标准，能够更准确地规范各行业的数据标准，并推出与行业相匹配的产品。8、大数据产品测试标准大数据产品的测试场景、测试指标、测试工具等。大数据产品测试标准的建立能够公平、客观地评测大数据产品的功能和性能，对人们选择合适的大数据产品具有重要的参考价值。大数据高校大数据平台标准体系5、大数据服务标准提供大数据实时大数据高校大数据业务开发平台为提供众多便捷易用的开发框架和服务引擎，使用户可以迅速地掌握、认知以及使用平台上开放的数据，针对不同的应用场景选择合适的服务引擎进行二次开发，公司自主研发“国子数据魔方”业务开发平台，在提供开放数据的同时，也允许用户通过该平台进行大数据应用的开发，为用户提供一体化应用开发、测试、部署、运行、管理、监控等托管环境，使应用开发人员无需关心应用的底层硬件和基础设施建设，从而提高工作效率。其架构图如下：大数据高校大数据业务开发平台为提供众多便捷易用的开发框架和大数据高校大数据业务开发平台—大数据中心大数据数据中心不是简单的硬件设备集成，也不仅仅是数据存储的中心，而是数据流通和应用服务的中心。它具备十分丰富的信息资源、安全可靠的机房设施、高水平的网络管理和十分完备的增值服务，数据中心是高校信息化建设的基础性项目之一。数据中心通过统一的数据格式实现应用系统之间的数据交换和共享。高校数据中心具有以下建设意义：收集、存储各类数据的同时有效地将数据管理起来，为高校各个应用系统提供统一的数据服务，保证数据的一致性。打破信息孤岛为学校部门和各位领导提供实时数据。各部门之间可以很方便地查看其他部门的公开数据；领导可以统筹查看全校所有部门的业务数据，能够直观地了解学校的情况。互联互通便于后期的应用系统开发，将应用与数据分离开来，降低应用系统扩展开发的难度，为全面整合高校应用系统打下坚实的基础。预留接口大数据高校大数据业务开发平台—大数据中心大数据数据中心不是大数据高校大数据业务开发平台—大数据业务平台层大数据业务平台由组件、大数据处理引擎、APP、BI引擎构建而成。大数据业务平台是基于PAAS思想构建，并遵循SAAS标准。01大数据组件组件是大数据业务平台的最基本元素，在大数据业务平台中内建组件接口标准，所有的组件都遵循该标准。在标准中定义组件的输入、私有项和输出。在业务开发过程中，通过图形化界面对一个或多个组件进行创建、编辑和关联，从而组合成一个数据处理服务对外发布。02大数据大数据处理引擎大数据处理引擎是整个业务平台的执行中枢，通过对发布服务中的关联组件进行解析、调度、执行、迭代、合并等操作实现整个服务的平稳运行。03大数据APPAPP是由一个或多个发布的数据处理服务组合而成的轻应用。用户通过图形化界面编辑APP展现的数据和图表形式。04大数据BI引擎BI引擎对构建的APP的数据绑定服务和图表形式进行解析和展现。大数据高校大数据业务开发平台—大数据业务平台层大数据业务平台大数据高校大数据应用开发与服务—数据有序开放“大众创业，万众创新”的政策和移动互联网、大数据、物联网等新技术的快速发展，驱动了面向互联网的传统行业的快速创新。大数据是一把双刃剑，开放的同时意味着社会的风险。如何做好数据的有序开放是大数据面临的难题，我们主要按照以下原则进行大数据的有序开放。010203高校数据共建建立统一的数据标准和数据存放接口的互联，使数据从产生开始就有共同的标准。高校数据的互通按照“18”大数据标准体系，建立大数据数据中心，消除高校信息化建设的信息孤岛，实现高校数据互通。高校数据共享高校数据来自数字化校园的方方面面，在保障数据安全的前提下，数据需要经过加工脱敏之后，再对用户开放，让数据服务于高校，进而为高校创造数据价值。大数据高校大数据应用开发与服务—数据有序开放“大众创业，万众大数据大数据“端到端”交付具体内容需求调研产品开发技术服务应用扩展咨询设计……调研客户信息系统的现状调研客户数据源现状与质量调研学校大数据关注内容调研学校背景与发展需求评估技术实现可行性与规模数据样例分析…确定使用的大数据的关键技术确定使用的数据呈现模式制作完整的咨询规划落地方案协助客户进行项目规划与申报调研学校背景与发展需求…提供三盟科技大数据产品与功能采集客户源数据针对性进行建模与数据库设计针对客户需求进行对应的数据关系与挖掘分析提供大数据应用分析报表与结果…

分析源数据的合理性与正确性学校源数据变化的整合新增业务的整合数据监控与管理技术培训教学合作….开放接口，学校可自行开发大数据应用为学校增加新的大数据应用功能增加新的数据关联内容数据深度挖掘……大数据大数据“端到端”交付具体内容需求调研产品开发技术服务应大数据科技大数据产品：架构01---ETL业务数据采集：三盟公司自我研发的采集模块。外部数据采集：Apache开源爬虫工具、三盟二次开发02---存储静态数据：采用当前最流行的开源数据库Mysql动态数据：存储在HDFS上，使用Spark进行数据分析；热数据：存储在HBase上，进行快速检索03---呈现后台：使用SpringMvc+Hibernate+Druid+Shiro框架前端：使用Jquery+BootStrap+Echarts组件大数据科技大数据产品：架构01---ETL业务数据采集：三盟大数据数据采集ETL行政待办行政待阅审批申请…身份信息消费信息余额信息…学生信息考核信息奖惩信息资助…宿舍资源分配信息日常评比…学生信息老师信息考勤信息…学生系统教务系统宿舍系统行政管理图书馆管理一卡通其他系统上网行为课程信息班级信息排课排考成绩…身份信息访问告警流量信息…身份信息消费信息余额信息…各类数据输出ININ成绩信息宿舍评比一卡通信息…班级信息专业信息学生信息…老师信息学生信息…老师信息学生信息…卡身份…老师信息审批信息事务提醒…各类跨系统数据输入数据仓库服务提供大数据数据采集ETL行政待办身份信息学生信息宿舍资源学生信息大数据数据清洗数据清洗原则清洗前的原始数据清洗后的数据数据清洗示例清洗规则：门禁系统，把没有卡id的数据过滤，并把每个卡ID和用户ID做关联，记录到门禁记录中一卡通系统：管理学生ID，增加学生姓名教务系统：过滤成绩为0的记录，过滤重复的课程、通过门禁系统、增加宿舍位置等学生信息：过滤无效的地址信息，通过身份证号码，适配学生省份、地市信息等实际项目举例大数据数据清洗数据清洗原则清洗前的原始数据清洗后的数据数据清大数据数据建模大数据数据建模大数据数据存储MysqlHiveHbaseHdfsMongoDBOracle其它…三盟集群二次开发和接口封装（DBBOX）统一访问接口统一对外接口我的大学我的大学学生行为画像学生行为画像学校舆情分析学校舆情分析就业指导就业指导数据安全分析数据安全分析学生行为预警学生行为预警其它业务…其它业务…使用统一的大数据接口大数据数据存储MysqlHiveHbaseHdfsMongo大数据数据入库数据预处理数据预处理技术主要包括：清理源数据集中的噪声数据和无关数据。处理遗漏数据和清洗脏数据、空缺值。识别删除孤立点。对数据按时间进行汇集。存储和管理数据存储采取关系数据库存储和大数据系统存储并行的策略：关系数据库存储。采用MySql数据库集群。大数据数据库存储。采用HBase数据库。大数据文件系统HDFS存储系统管理采用Hadoop系统和ZooKeeper等管理工具。教务系统学工系统一卡通系统上网计费系统医疗管理系统数据库同步程序关系数据库存储NoSql数据库存储数据分析程序数据展示程序关系型数据流式数据流式数据ETL程序Hadoop大数据系统图书馆管理系统人事系统研究生管理设备管理系统科研管理系统宿舍管理系统财务系统NewSql数据库存储大数据文件系统社会招聘就业网站论坛网站科研网站爬虫工具DBBOX大数据数据入库数据预处理存储和管理教务系统学工系统一卡通上网大数据大数据管理平台建设Manage管理软件三盟科技为学校提供图形化、中文的大数据管理工具，用于学校老师日常的运维，主要功能包括如下：安装部署数据查询权限设置元数据管理节点修改故障检测集群监控…大数据大数据管理平台建设Manage管理软件三盟科技为学校提大数据大数据标准规范高校大数据规模体系基础数据规范业务数据规范架构及实施规范基础数据标准规范基础数据业务交互规范基础数据维护规范业务数据标准规范业务数据维护标准平台构架设计规范实施指导规范数据接口结构规范大数据平台数据字典建立高校大数据标准，对各个业务系统的数据进行规范梳理大数据大数据标准规范高校大数据规模体系基础数据规范业务数据规大数据大数据使用技术折线图柱状图仪表盘饼图预警信号地图成绩消费生活读书上网纪律热点图雷达图大数据大数据使用技术折线图柱状图仪表盘饼图预警信号地图成绩消大数据大数据系统物理架构图DataNode数据节点集群NameNodeNameNodeJobTracker二层交换机分步式文件域域节点集群Hmaster二层交换机分步式数据库域关系性数据库MySQL…二层交换机关系数据库域域节点集群门户系统集群模式统一代理系统MR系统Pig分析Hive数据仓库系统Chukma采集系统应用系统域安全运维域大数据管理系统ETL数据采集域数据采集清冼、建模系统数据挖掘分析域数据关联与挖掘系统交换机用户域数据存储系统大数据大数据系统物理架构图DataNodeNameNod大数据大数据后期服务与保障技术服务：大型故障7x24小时上门解决驻场服务：1人驻场，3年更新服务：3年免费功能更新远程支持：普通问题远程支持与协助服务内容：新加数据，数据有错误，更新，硬件异常，扩容…运维保障服务三盟科技为学校原厂的大数据运维保障服务，协助学校日常大数据项目的管理，主要内容包括如下：大数据大数据后期服务与保障技术服务：大型故障7x24小时上门大数据大数据项目实施阶段阶段任务分解需求调研需求文档编写需求评审需求确认阶段里程碑完成需求文档编写完成需求确认阶段验收条件需求文档符合规范需求邮件确认需求阶段准备阶段阶段任务分解获取接口信息：资费系统获取接口信息：上网行为审计系统获取接口信息：考勤门禁系统获取接口信息：教务系统获取接口信息：一卡通系统获取接口信息：图书管理系统获取接口信息：其它接口…阶段工期开始时间：2016-xx-xx结束时间：2016-xx-xx投入人员：x人阶段里程碑每个接口信息获取都是里程碑验收标准接口信息文档收集完整阶段任务分解数据建模资费系统、上网行为审计系统、考勤门禁系统、教务系统、一卡通系统、图书管理系统数据采集处理外部数据爬取场景开发：例如我的大学、行为预警、就业指导，学生行为画像阶段里程碑模型建立每项数据采集完成每个业务场景完成开发验收标准数据能正常采集例如：我的大学、行为预警、就业指导、学生行为画像能正常使用开发阶段测试和试运行阶段阶段任务分解模块整合集成测试bug修复回归测试试运行阶段里程碑学校大数据版本发布验收标准学校大数据版本正常发布确认试运行使用情况大数据大数据项目实施阶段阶段任务分解阶段里程碑阶段验收条件需大数据数据存储大数据研发实力强中国、美国硅谷两个研究院数十名国内外教育专家顾问过百名专业的研究人员“一体化”交付支持高校大数据建设的整体与应用的真正落地，实现“一体化”交付。业务模块丰富已完成6大业务模块，后续规划超过10种高校大数据业务模块123456专注教育行业专注中国教育行业超过10年，教育行业投入资源大，了解教育真实需求与云计算融合提供云计算与大数据融合，在云平台上实现大数据节点的自动部署技术标准无制约为不同的数据产品提供一致接口，消除软硬件限制，实现弹性部署，保障应用体验大数据数据存储大数据研发实力强“一体化”交付业务模块丰富1203大数据业务高校大数据平台三大用途高校大数据平台核心业务03大数据业务高校大数据平台三大用途大数据高校大数据平台三大用途之培养大数据人才的平台近年来，移动互联网、云计算、大数据、物联网等信息技术取得了突飞猛进的发展，已经在深刻地改变着人类社会的方方面面。“互联网”、大数据更是已经上升到了国家战略层面，成为提升全社会的创新力、生产力，促进经济发展新形态的基础设施和实现工具。高校作为人才培养、技术创新的前沿阵地，需要充分感知最新技术发展方向，掌握和创新最前沿科学技术，培养时代迫切需求的创新型人才。根据国内外高校开展大数据课程建设经验以及现有大数据技术就业市场需求而构建的大数据人才培养平台，以大数据为方向，引进国内外先进大数据技术、成熟解决方案以及管理与教学内容，搭建云计算、大数据管理技术、大数据应用软件开发等技术平台，培养学生研究大数据科学与工程领域问题、解决大数据实际应用问题的能力，系统掌握大数据主流的存储、管理、分析处理技术，以及大数据平台架构和建设，实现科研、教学与社会服务的顺畅衔接，逐步打造以培养大数据人才为核心的科研、教学基地。大数据高校大数据平台三大用途之培养大数据人才的平台近年来，移大数据高校大数据平台三大用途之培养大数据人才的平台创新意识、创新精神、创新思维、创造力或创新人格等创新素质的培养需要一个长期的过程。创新教育与学科教育相结合，纳入人才培养体系，利用大数据、“互联网”、云平台的优势，构建大数据人才平台、打造创新教育人才培养新模式、创新教育教学组织新形式，使学生掌握企业运作的规律与本质，增加师生良性互动，真正培养出社会、企业所需要的创新型人才。大数据高校大数据平台三大用途之培养大数据人才的平台创新意识、大数据高校大数据平台三大用途之深化高校管理促进高校改革发展的平台010205040603可视化分析可视化可以直观的展示数据，让数据自己说话数据存储和数据仓库便于多维分析和多角度展示数据按特定模式进行存储所建立起来的关系型数据库。数据仓库提供数据抽取、转换和加载，为联机数据分析和数据挖掘提供数据平台。数据质量和数据管理通过标准化的流程和工具对数据进行处理可以保证一个预先定义好的高质量的分析结果。语义引擎语义引擎需要能够从“文档”中智能提取非结构化数据信息，并利用一系列的工具去解析，提取，分析数据。预测性分析能力预测性分析可以让分析员根据可视化分析和数据挖掘的结果做出一些预测性判断。数据挖掘算法集群、分割、孤立点分析还有其他算法让我们深入数据内部，挖掘价值。大数据分析六个方面大数据高校大数据平台三大用途之深化高校管理促进高校改革发展的大数据高校大数据平台三大用途之深化高校管理促进高校改革发展的平台12345学生行为分析校园一卡通分析舆情分析校情大数据分析个性化学习分析大数据分析应用大数据高校大数据平台三大用途之深化高校管理促进高校改革发展的大数据高校大数据平台三大用途之提高高校科研水平和效率的平台0104030205实现高校科研选题科学化挖掘社会公众、工商企业、政府和事业单位以及其他非盈利机构对科学知识和技术的需求情况，辨别哪些科学知识和技术需求是最为迫切和社会经济效益极为突出的，提高科研选题的针对性，实现科研选题的科学化。实现研究数据共享复用搭建开放式大数据科研平台，充分融合教师的科研需求，提升教师的科研创新能力，充分提高“研”的成效，提供行业数据及案例解剖用于基础研究，提供数据分析方案及流程，提供数据更新接口，为科研工作提供数据支撑。实现高校科研选题科学化大数据科研平台提供多场景数据计算和分析挖掘的科研基础环境，充分结合行业课题的相关数据，利用大数据技术深入挖掘分析，满足行业大数据的科研工作需求，进一步提升高校的大数据科研水平，借助完善的产学研体系，实现科研成果向业务价值的转化。大数据技术在高校科研管理创新中的应用主要有以下几个方面：避免重复研究挖掘不同层级、不同类别和不同区域之间科研选题申报和立项情况，结合科研选题申报高校及其研究团队的研究特长与特色，监控科研项目重复立项风险，避免重复研究，节约科研经费，减少资源浪费。监督学术道德和诚信高校科研管理人员在课题申报阶段，对申请书进行学术道德与诚信的监督，避免学术不端行为发生。大数据科研平台提供多场景数据计算和分析挖掘的科研基础环境，充分结合行业课题的相关数据，利用大数据技术深入挖掘分析，满足行业大数据的科研工作需求，进一步提升高校的大数据科研水平，借助完善的产学研体系，实现科研成果向业务价值的转化。大数据技术在高校科研管理创新中的应用主要有以下几个方面：大数据高校大数据平台三大用途之提高高校科研水平和效率的平台04大数据平台应用应用方案架构安全态势感知大数据教学创新大数据科研创新大数据管理创新04大数据平台应用应用方案架构大数据教学创新大数据管理创新大数据高校大数据平台应用方案架构大数据高校大数据平台应用方案架构大数据高校大数据平台应用业务模型大数据高校大数据平台应用业务模型大数据安全态势感知内嵌网络安全态势感知系统，安全态势感知系统采用大数据转化为安全智能的理念，收集各种安全数据，并结合威胁情报系统，进行关联分析，实现感知、溯源、预警。大数据安全态势感知内嵌网络安全态势感知系统，安全态势感知系统大数据综合安全态势感知安全态势感知系统对多源安全数据进行关联分析，将海量安全数据转化为少量安全事件，并进行集中呈现，大幅度降低安全运维复杂性；基于攻击链模型，将针对重点服务器的各种攻击事件从时间维度上做关联，还原网络攻击情景，追溯攻击过程。结合威胁情报，实现对即将发生的潜在威胁进行通告预警。借助安全态势感知系统，打破原有安全产品之间的数据壁垒，消除信息孤岛问题，为构建企业信息安全纵深防护体系提供强有力的支撑。大数据综合安全态势感知安全态势感知系统对多源安全数据进行关联大数据行为预警学生行为预警直接关注的就是学生在校期间的异常表现，包括思想和行为等各个方面。通过学生生活数据，实现对学生的“高效、便捷、准确”的“管、控、查”一体化。主要从学生疑似未住宿预警、学生疑似不在校预警、学生晚寝晚归预警、学生预警趋势分析、学生就餐高峰、学生就业预警等方面进行数据挖掘。大数据行为预警学生行为预警直接关注的就是学生在校期间的异常表大数据大数据教学创新之教学质量评估对学生给予教师的评价、学生活跃程度、学生成绩和教师授课情况等数据进行分析研究，帮助教师更好地进行教学活动。大数据大数据教学创新之教学质量评估对学生给予教师的评价、学大数据大数据教学创新之上网行为分析对各年级同学上线次数、上网时间段、总流量以及在线课程的欢迎程度等数据进行分析研究，引导学生合理运用网络资源，树立健康的上网理念。大数据大数据教学创新之上网行为分析对各年级同学上线次数、上网大数据大数据教学创新之学生成绩分析对学生成绩以及排名等数据进行分析研究，更加清晰地了解学生成绩的整体分布状况以及学生的学习状况。大数据大数据教学创新之学生成绩分析对学生成绩以及排名等数据进大数据大数据科研创新之科研成果分析对科研成果的获奖比例、科研成果的学科背景和科研成果的论文级别等数据进行分析研究，清晰统计科研获奖情况。大数据大数据科研创新之科研成果分析对科研成果的获奖比例、科研大数据大数据科研创新之科研项目分析对科研项目的负责人年龄、学历、以及院系等高校科研项目信息进行分析研究，更全面地了解学校科研项目情况。大数据大数据科研创新之科研项目分析对科研项目的负责人年龄、学大数据大数据科研创新之科研经费分析对科研经费的投入、科研论著的发表数量以及各学院经费的投入和支出等数据进行分析研究，直观地了解科研经费、科研成果以及科研奖励等方面的信息。大数据大数据科研创新之科研经费分析对科研经费的投入、科研论著大数据大数据管理创新之招生分析对学生的生源地以及招生的学生类型等数据进行分析研究，发现哪几个地区的考生是历年招生的主力军，进而为学校做到有重点、有突出、有成果的招生指导。大数据大数据管理创新之招生分析对学生的生源地以及招生的学生类大数据大数据管理创新之就业分析对学生就业的地区分布、就业行业以及就业专业排名等数据进行分析研究，为高校决策者提供指导或数据支持，改进现有的教育模式，提高对毕业生就业指导的实效性。大数据大数据管理创新之就业分析对学生就业的地区分布、就业行业大数据大数据管理创新之住宿分析对学生住宿过程产生的数据进行分析研究，帮助学校相关管理人员更加合理地分配宿舍资源，更加科学地进行宿舍管理。大数据大数据管理创新之住宿分析对学生住宿过程产生的数据进行分大数据大数据管理创新之精准资助积极响应国家号召，通过对学生各维度数据进行聚类分析、对历史数据的深度学习，帮助学校识别真正的贫困生，甄别出伪贫困生。大数据大数据管理创新之精准资助积极响应国家号召，通过对学生各大数据大数据管理创新之教改决策通过机器学习、人工智能解决方案，推荐给管理者教学体制改革相关建议和方案。大数据大数据管理创新之教改决策通过机器学习、人工智能解决方案大数据大数据管理创新之校本数据高校管理者可以直观看到各个业务单元的关键信息，可以全面、及时掌握学校的重要情况，将校园管理工作提升到一个新的高度。大数据大数据管理创新之校本数据高校管理者可以直观看到各个业务大数据大数据管理创新之资产数据统计分析对资产的数量、资产的分类以及资产的年增长率等数据进行分析研究，为各类资产的购置和合理分配提供了决策支持，便于校领导从全局上把握资产信息，加强成本核算，对固定资产进行系统的规划、建设和管理。大数据大数据管理创新之资产数据统计分析对资产的数量、资产的分大数据大数据创新应用之学生轨迹分析对学生各学年的成绩、餐厅消费、购物、进出图书馆的次数、借阅图书以及吃早餐的次数等数据进行分析研究，利用这些数据，不仅能预测出学生的学习状况，而且学校还可以依此引导他们更好地规划各自的学业和就业方向。大数据大数据创新应用之学生轨迹分析对学生各学年的成绩、餐厅消大数据大数据创新应用之学生画像对学生在校生活和学习状况等数据进行分析研究，掌握学生的目标动向，无论是学习还是参与社会活动，都能够有的放矢地帮助学生做进一步规划。大数据大数据创新应用之学生画像对学生在校生活和学习状况等数据大数据大数据创新应用之学生画像大数据大数据创新应用之学生画像2018COLLEGESTUDENTS'CAREERPLANNING谢谢大家的聆听2018COLLEGESTUDENTS'CAREER互联网+智慧高校大数据建设方案互联网+智慧高教大数据建设方案互联网+智慧校园大数据建设方案互联网+智慧高校大数据建设方案01现状分析开发背景面临挑战01现状分析开发背景大数据高校大数据开发背景战略机遇：培养大数据人才、利用高校大数据深化高校管理促进高校改革发展、使用大数据平台提高高校科研水平和效率，既是高校面临的重要任务，也是高校发展的战略机遇。大数据正在逐渐成为社会基础设施，成为每一家组织机构的标配。“大数据”之“大”，更多的意义在于：人类可以“分析和利用”的数据在大量增加，通过这些数据的交换、整合和分析，人类可以发现新的知识，创造新的价值，并让很多常态化的认知、判断、思维定式、产品形态、服务模式，形成全新的面貌和演进方向。

大数据已经引起国际社会的高度重视，世界各国都在加快推进大数据战略布局。大数据产业已上升至国家战略高度，正日益渗透到经济发展和社会生活的方方面面。2015年9月5日，国务院发布《促进大数据发展行动纲要》，文件指出“数据已经成为国家基础性战略资源”，并在启动的十大工程之一“公共服务大数据工程”中明确提出要建设教育文化大数据。

教育大数据已经上升到国家战略层面，引起社会各界的广泛关注和高度重视。教育大数据将首先破解传统教育面临的六大难题（发展不均衡难题、方式单调化难题、信息隐形化难题、决策粗放化难题、择校感性化难题、就业盲目化难题），助推教育的全方位变革与创新发展。

确立教育大数据在我国教育事业发展与改革中的战略地位已是国家教育现代化建设的必然要求。教育大数据是重要的国家战略资产、教育领域综合改革的科学力量与发展智慧教育的基石。

人类社会已经迎来“大数据时代”。培养大数据人才、利用高校大数据深化高校管理促进高校改革发展、使用大数据平台提高高校科研水平和效率，既是高校面临的重要任务，也是高校发展的战略机遇。大数据高校大数据开发背景战略机遇：培养大数据人才、利用高校大大数据高校面临的大数据问题01020304数据来源多元化，共享数据库涵盖系统多，高校生源不断扩张，信息不断积累，致使数据库中的信息不断增加，进而为数据挖掘、管理和分析带来了困难。数据规模日益庞大高校不同学科与专业采用的大数据环境大多依赖现有的IT环境，导致大数据运行的基础软硬件环境比较混乱且极其不稳定，缺乏有效的运维管理，严重影响教学和科研工作的正常进行。缺乏稳定高效的大数据环境校园的信息仍然停留在收集和累积阶段，尽管移动终端系统的不断发展为信息采集带来了极大的便利，但采集后的数据仅仅停留在查询阶段，并没有对数据进行整合、分析和梳理，使得这些信息仍未被管理者采用，作为决策依据的信息则少之又少。数据利用不充分数据剧增由量变引起质变，使科研人员的思维和行为模式在传统的学科研究领域发生转变。如何借助大数据相关技术以及资源，找到本学科研究成果的新视角，已经成为当前高校研究的重要课题。数据驱动带来的科研新挑战大数据高校面临的大数据问题01020304数据来源多元化大数据高校面临的大数据问题主要是数字化校园系统产生数据数据的维度少，业务来源不足数据量百GB到几TB，数据量少以结构化数据为主，达不到大数据要求部份数据源有错误，数据不一致业务接口与数据结构不规范数据涉及面窄有效数据量少数据接口不完善数据源的问题分析大数据高校面临的大数据问题主要是数字化校园系统产生数据数据大数据高校面临的大数据问题校领导决策更加科学教师教学更加便捷教学水平提升学生随时随地个性化学习家长及时掌握子女在校情况教学管理与服务管理更加简单高效服务水平不断提升校园环境更加绿色、环保、安全信息化覆盖范围和服务水平有效提升社会更多优质教育资源和科研成果开放共享高校大数据服务用户分析大数据高校面临的大数据问题校领导教师学生家长教学管理与服务大数据高校业务常见应用系统数据中心教务系统学工系统一卡通系统设备管理系统科研管理系统医疗管理系统研究生管理系统上网行为管理系统网络计费系统无线WiFi系统宿舍管理系统图书管理系统房产管理系统财务系统人事系统基本信息基本信息、成绩等贫困生、奖学金等流水账岗位、职称等专业、研究方向等大数据高校业务常见应用系统数据中心教务系统学工系统一卡通系统大数据高校常见业务系统详细数据分析大数据高校常见业务系统详细数据分析大数据高校大数据常见服务用户类型用户类型校领导具体需求1、师生整体情况2、学校舆情3、科研水平4、资产情况用户类型院领导具体需求1、学院各专业各班级的集体/个人行为画像2、学院教师的课程和科研情况用户类型校工会具体需求1、评判贫困生、奖助学金结果的合理性，识别冒领人员2、教职工的劳资情况用户类型设备处具体需求1、现有资产现状2、资产发展趋势3、各品牌资产的故障率4、各单位资产采购规划用户类型企业具体需求根据学生行为画像情况和企业岗位要求匹配度，推荐学生到企业实习或就业用户类型图书馆具体需求1、图书馆藏现状2、图书借阅现状3、趋势分析4、图书采购规划用户类型老师具体需求1、班级成绩2、班级/个人行为画像3、图书借阅，推送书籍4、科研情况用户类型校医院具体需求1、药品收支率2、学校健康档案

3、传染病预防和治疗4、分析药品副作用用户类型本科生/研究生具体需求1、成绩和能力情况2、就业市场和招聘指导3、图书借阅4、消费、网络大数据高校大数据常见服务用户类型用户类型校领导具体需求1、师大数据高校大数据建设的其它行业问题关联分析统一规划运维服务大数据高校大数据建设的其它行业问题关联分析统一规划运维服务大数据高校大数据平台建设意义高校作为高科技人才以及创新技术的摇篮，承载着科研攻关和人才培养的双重使命。在新的科技浪潮中，高校应瞄准时代最前沿，将教学科研创新、专业人才培养与大数据紧密融合在一起，在更高起点上推动学校在大数据教学、科研以及创新方面再上新台阶。建设意义010205040306实现个性化学习集成教育数据挖掘与学习分析技术，持续采集学习行为数据，智能分析，推送适合的学习资源并进行个性化学习建议。实现教育评价体系重构采集教与学的全过程数据，全面客观记录学生成长轨迹，引导学生培养模式和教育质量管理方式科学健康发展。实现科学研究范式转型解决科研经费等科研管理难题，提供便捷的技术支撑与人性化服务，提高研究的效率和结果的可信度。实现科学化教育管理注重相关关系识别，强调因果关系的确定，发现隐藏的、有用的信息，做好教育管理和决策工作的数据支持。实现教学模式改革教学数据分析与预测，改变教学模式，实现个性化教育，调整教学方案，优化教学方法，提高教学质量。开启“大数据创客”新模式完成创新应用及发布，完善高校信息化建设，提升高校实力，加速创客成果转化，推动创意实现产业化，打造具有影响力的“创客校园”。大数据高校大数据平台建设意义高校作为高科技人才以及创新02技术实现技术架构标准体系业务开发平台应用开发与服务02技术实现技术架构业务开发平台大数据高校大数据平台技术架构以构建基础硬件层为底层支撑，利用云计算、大数据的数据集成、数据安全、服务器集群、数据计算与挖掘分析等技术，遵循“18”（1个中心平台8大技术标准）大数据标准体系，通过HIVE和HBASE构建大数据数据中心。在此基础上，公司自主研发了“国子数据魔方”业务开发平台，通过业务开发平台进行应用开发、应用发布、服务注册的信息化管理，并可以将应用以可视化界面展示给用户，为领导决策提供数据依据。架构示意图如下：大数据高校大数据平台技术架构以构建基础硬件层为底层支撑，利用大数据高校大数据平台技术架构1、基础硬件层基础硬件层是由一组低廉的PC或服务器组合构建而成。基础硬件层主要承载着数据的存储、运算、容错、调度和通信等任务，对基础应用层下达的指令进行执行和反馈。2、数据集成大数据特征表现在实时、交互、海量等方面，并且以半结构化、非结构化数据为主，价值密度低，为了更好地“让数据说话”，并充分发挥大数据价值效应，应坚持“能采尽采”的原则，数据源的涵盖范围要尽量大。3、数据计算与分析挖掘大数据平台涵盖了大数据场景下常用的计算场景，包含离线计算、实时计算、流式计算、数据挖掘与机器学习等。可以更容易、更方便地构建全生命周期的数据湖，使数据的加工、处理、创新过程更加丰富，从而实现数据的更大价值。5、服务器集群服务器集群是将很多服务器集中起来一起进行同一种服务，集群可以获得更高的计算速度，也可以用作备份，任何一个服务器损坏整个系统都能正常运行。群集化操作可以减少单点故障数量，实现群集化资源的高可用性。4、数据安全大数据平台通过一系列的认证授权和资源隔离机制，实现数据资源的安全性、可维护性、可用性、可信性。提供统一认证服务负责对使用者的身份进行验证；提供统一授权服务负责对用户的资源访问权限进行控制；提供统一资源调度负责对用户使用的底层资源进行隔离。大数据高校大数据平台技术架构1、基础硬件层基础硬件层是由一大数据高校大数据平台技术架构6、大数据技术标准一个中心平台：大数据业务开发平台。8大技术标准：基础标准、数据表示标准、数据处理标准、数据存储标准、数据服务标准、数据安全和隐私标准、行业大数据标准、大数据产品测试标准。

7、大数据数据中心通过对各种类型的结构化、半结构化、非结构化数据信息的采集、预处理、分析处理以及存储等相关操作，构建统一、规范、全面的大数据数据中心，为相关工作提供数据支持。8、大数据业务开发平台以Hadoop为核心，融合优秀技术，提供开放的数据和业务开发平台，进行应用开发、应用发布、应用注册及应用服务的信息化流程管理，从而提升了大数据应用体验，有利于发挥创新精神，创造无限价值。9、大数据业务可视化分析大数据业务可视化分析能够将隐藏于海量数据中的信息和知识挖掘出来，为用户提供可视化的操作分析界面；为用户的相关活动提供数据依据，从而提高工作效率。大数据高校大数据平台技术架构6、大数据技术标准一个中心平台：大数据高校大数据平台标准体系大数据信息标准为数据收集、数据处理、数据存储、数据分析与挖掘提供指导和参照标准，加快建立高校信息采集、存储、公开、共享、使用、质量保障和安全管理等技术标准，引导建立信息共享交换的标准规范，促进信息资源开发利用，实现大数据汇聚整合，为大数据、云计算提供强有力的基础支撑。抓好大数据标准体系建设，推进国家大数据战略实施，应对三方面需求：面向高校教育的需要，研制开放、共享大数据标准；助力高校教育创新发展，制订典型领域相关标准；保障资源安全、保护个人隐私，研制安全标准等，以数据为基本元素进行数据安全管理，规范数据的共享、使用和管理的整个流程，解决跨平台的数据交互、数据开放共享等难题。公司对我国现有标准、在研标准和将提出的标准计划进行梳理，依据大数据技术体系，从基础、技术、产品、应用等不同角度进行分析，形成了大数据标准体系框架，按照"18"的理念进行设计，即以"国子数据魔方"业务开发平台为支撑，构建基础标准、数据表示标准、数据处理标准、数据存储标准、大数据服务标准、大数据安全和隐私标准、行业大数据应用标准和大数据产品测试八大技术标准。大数据高校大数据平台标准体系大数据信息标准为数据收集、数据处大数据高校大数据平台标准体系通过平台和技术标准的建设，整合和引导资源、激活科技要素、推动自主创新与开放创新，促进大数据健康发展；加速技术积累、科技进步、创新成果推广，加速大数据在高校的广泛应用，促进高校全面、协调、可持续发展；解决数据共享难、数据格式不统一、数据标准不规范、数据重复建设等难题。大数据高校大数据平台标准体系通过平台和技术标准的建设，整合和大数据高校大数据平台标准体系1、基础标准大数据术语、大数据参考架构、大数据平台架构标准，能够更加切合实际的对相关操作进行描述，形成统一数据标准，进而为数据库提供基础支撑和服务。2、数据表示标准数据编码规范、元数据规范、非结构化数据、数据集统一描述规范等，确保数据信息的交互共享，进而消除信息孤岛。3、数据处理标准数据质量评价标准、数据采集标准、数据组织标准等大数据处理阶段相关的标准规范，消除变量自身变异和数值大小的影响，为大数据应用打下良好的基础。4、数据存储标准

非关系型数据库规范、非结构化数据管理系统规范等大数据背景下的新型存储系统相关规范，有助于数据进行交互式传输和管理，提高存储量、存储速度，进而为大数据快速挖掘、提取、分析提供基础。大数据高校大数据平台标准体系1、基础标准大数据术语、大数据大数据高校大数据平台标准体系5、大数据服务标准提供大数据实时分析服务、可视化服务等一系列大数据服务的标准化描述和接入，提升数据之间的关联性，降低数据分析的复杂度，大幅度提高分析的准确性。6、大数据安全和隐私标准大数据对外服务时，制定数据存储安全、数据传输安全、数据分析挖掘安全等方面的标准，为安全面临的内部管理和外部攻击提供可靠的数据存储、安全的挖掘分析、严格的运营监管。7、行业大数据应用标准相关领域大数据应用、领域大数据的分类和编码等方面的标准，能够更准确地规范各行业的数据标准，并推出与行业相匹配的产品。8、大数据产品测试标准大数据产品的测试场景、测试指标、测试工具等。大数据产品测试标准的建立能够公平、客观地评测大数据产品的功能和性能，对人们选择合适的大数据产品具有重要的参考价值。大数据高校大数据平台标准体系5、大数据服务标准提供大数据实时大数据高校大数据业务开发平台为提供众多便捷易用的开发框架和服务引擎，使用户可以迅速地掌握、认知以及使用平台上开放的数据，针对不同的应用场景选择合适的服务引擎进行二次开发，公司自主研发“国子数据魔方”业务开发平台，在提供开放数据的同时，也允许用户通过该平台进行大数据应用的开发，为用户提供一体化应用开发、测试、部署、运行、管理、监控等托管环境，使应用开发人员无需关心应用的底层硬件和基础设施建设，从而提高工作效率。其架构图如下：大数据高校大数据业务开发平台为提供众多便捷易用的开发框架和大数据高校大数据业务开发平台—大数据中心大数据数据中心不是简单的硬件设备集成，也不仅仅是数据存储的中心，而是数据流通和应用服务的中心。它具备十分丰富的信息资源、安全可靠的机房设施、高水平的网络管理和十分完备的增值服务，数据中心是高校信息化建设的基础性项目之一。数据中心通过统一的数据格式实现应用系统之间的数据交换和共享。高校数据中心具有以下建设意义：收集、存储各类数据的同时有效地将数据管理起来，为高校各个应用系统提供统一的数据服务，保证数据的一致性。打破信息孤岛为学校部门和各位领导提供实时数据。各部门之间可以很方便地查看其他部门的公开数据；领导可以统筹查看全校所有部门的业务数据，能够直观地了解学校的情况。互联互通便于后期的应用系统开发，将应用与数据分离开来，降低应用系统扩展开发的难度，为全面整合高校应用系统打下坚实的基础。预留接口大数据高校大数据业务开发平台—大数据中心大数据数据中心不是大数据高校大数据业务开发平台—大数据业务平台层大数据业务平台由组件、大数据处理引擎、APP、BI引擎构建而成。大数据业务平台是基于PAAS思想构建，并遵循SAAS标准。01大数据组件组件是大数据业务平台的最基本元素，在大数据业务平台中内建组件接口标准，所有的组件都遵循该标准。在标准中定义组件的输入、私有项和输出。在业务开发过程中，通过图形化界面对一个或多个组件进行创建、编辑和关联，从而组合成一个数据处理服务对外发布。02大数据大数据处理引擎大数据处理引擎是整个业务平台的执行中枢，通过对发布服务中的关联组件进行解析、调度、执行、迭代、合并等操作实现整个服务的平稳运行。03大数据APPAPP是由一个或多个发布的数据处理服务组合而成的轻应用。用户通过图形化界面编辑APP展现的数据和图表形式。04大数据BI引擎BI引擎对构建的APP的数据绑定服务和图表形式进行解析和展现。大数据高校大数据业务开发平台—大数据业务平台层大数据业务平台大数据高校大数据应用开发与服务—数据有序开放“大众创业，万众创新”的政策和移动互联网、大数据、物联网等新技术的快速发展，驱动了面向互联网的传统行业的快速创新。大数据是一把双刃剑，开放的同时意味着社会的风险。如何做好数据的有序开放是大数据面临的难题，我们主要按照以下原则进行大数据的有序开放。010203高校数据共建建立统一的数据标准和数据存放接口的互联，使数据从产生开始就有共同的标准。高校数据的互通按照“18”大数据标准体系，建立大数据数据中心，消除高校信息化建设的信息孤岛，实现高校数据互通。高校数据共享高校数据来自数字化校园的方方面面，在保障数据安全的前提下，数据需要经过加工脱敏之后，再对用户开放，让数据服务于高校，进而为高校创造数据价值。大数据高校大数据应用开发与服务—数据有序开放“大众创业，万众大数据大数据“端到端”交付具体内容需求调研产品开发技术服务应用扩展咨询设计……调研客户信息系统的现状调研客户数据源现状与质量调研学校大数据关注内容调研学校背景与发展需求评估技术实现可行性与规模数据样例分析…确定使用的大数据的关键技术确定使用的数据呈现模式制作完整的咨询规划落地方案协助客户进行项目规划与申报调研学校背景与发展需求…提供三盟科技大数据产品与功能采集客户源数据针对性进行建模与数据库设计针对客户需求进行对应的数据关系与挖掘分析提供大数据应用分析报表与结果…

分析源数据的合理性与正确性学校源数据变化的整合新增业务的整合数据监控与管理技术培训教学合作….开放接口，学校可自行开发大数据应用为学校增加新的大数据应用功能增加新的数据关联内容数据深度挖掘……大数据大数据“端到端”交付具体内容需求调研产品开发技术服务应大数据科技大数据产品：架构01---ETL业务数据采集：三盟公司自我研发的采集模块。外部数据采集：Apache开源爬虫工具、三盟二次开发02---存储静态数据：采用当前最流行的开源数据库Mysql动态数据：存储在HDFS上，使用Spark进行数据分析；热数据：存储在HBase上，进行快速检索03---呈现后台：使用SpringMvc+Hibernate+Druid+Shiro框架前端：使用Jquery+BootStrap+Echarts组件大数据科技大数据产品：架构01---ETL业务数据采集：三盟大数据数据采集ETL行政待办行政待阅审批申请…身份信息消费信息余额信息…学生信息考核信息奖惩信息资助…宿舍资源分配信息日常评比…学生信息老师信息考勤信息…学生系统教务系统宿舍系统行政管理图书馆管理一卡通其他系统上网行为课程信息班级信息排课排考成绩…身份信息访问告警流量信息…身份信息消费信息余额信息…各类数据输出ININ成绩信息宿舍评比一卡通信息…班级信息专业信息学生信息…老师信息学生信息…老师信息学生信息…卡身份…老师信息审批信息事务提醒…各类跨系统数据输入数据仓库服务提供大数据数据采集ETL行政待办身份信息学生信息宿舍资源学生信息大数据数据清洗数据清洗原则清洗前的原始数据清洗后的数据数据清洗示例清洗规则：门禁系统，把没有卡id的数据过滤，并把每个卡ID和用户ID做关联，记录到门禁记录中一卡通系统：管理学生ID，增加学生姓名教务系统：过滤成绩为0的记录，过滤重复的课程、通过门禁系统、增加宿舍位置等学生信息：过滤无效的地址信息，通过身份证号码，适配学生省份、地市信息等实际项目举例大数据数据清洗数据清洗原则清洗前的原始数据清洗后的数据数据清大数据数据建模大数据数据建模大数据数据存储MysqlHiveHbaseHdfsMongoDBOracle其它…三盟集群二次开发和接口封装（DBBOX）统一访问接口统一对外接口我的大学我的大学学生行为画像学生行为画像学校舆情分析学校舆情分析就业指导就业指导数据安全分析数据安全分析学生行为预警学生行为预警其它业务…其它业务…使用统一的大数据接口大数据数据存储MysqlHiveHbaseHdfsMongo大数据数据入库数据预处理数据预处理技术主要包括：清理源数据集中的噪声数据和无关数据。处理遗漏数据和清洗脏数据、空缺值。识别删除孤立点。对数据按时间进行汇集。存储和管理数据存储采取关系数据库存储和大数据系统存储并行的策略：关系数据库存储。采用MySql数据库集群。大数据数据库存储。采用HBase数据库。大数据文件系统HDFS存储系统管理采用Hadoop系统和ZooKeeper等管理工具。教务系统学工系统一卡通系统上网计费系统医疗管理系统数据库同步程序关系数据库存储NoSql数据库存储数据分析程序数据展示程序关系型数据流式数据流式数据ETL程序Hadoop大数据系统图书馆管理系统人事系统研究生管理设备管理系统科研管理系统宿舍管理系统财务系统NewSql数据库存储大数据文件系统社会招聘就业网站论坛网站科研网站爬虫工具DBBOX大数据数据入库数据预处理存储和管理教务系统学工系统一卡通上网大数据大数据管理平台建设Manage管理软件三盟科技为学校提供图形化、中文的大数据管理工具，用于学校老师日常的运维，主要功能包括如下：安装部署数据查询权限设置元数据管理节点修改故障检测集群监控…大数据大数据管理平台建设Manage管理软件三盟科技为学校提大数据大数据标准规范高校大数据规模体系基础数据规范业务数据规范架构及实施规范基础数据标准规范基础数据业务交互规范基础数据维护规范业务数据标准规范业务数据维护标准平台构架设计规范实施指导规范数据接口结构规范大数据平台数据字典建立高校大数据标准，对各个业务系统的数据进行规范梳理大数据大数据标准规范高校大数据规模体系基础数据规范业务数据规大数据大数据使用技术折线图柱状图仪表盘饼图预警信号地图成绩消费生活读书上网纪律热点图雷达图大数据大数据使用技术折线图柱状图仪表盘饼图预警信号地图成绩消大数据大数据系统物理架构图DataNode数据节点集群NameNodeNameNodeJobTracker二层交换机分步式文件域域节点集群Hmaster二层交换机分步式数据库域关系性数据库MySQL…二层交换机关系数据库域域节点集群门户系统集群模式统一代理系统MR系统Pig分析Hive数据仓库系统Chukma采集系统应用系统域安全运维域大数据管理系统ETL数据采集域数据采集清冼、建模系统数据挖掘分析域数据关联与挖掘系统交换机用户域数据存储系统大数据大数据系统物理架构图DataNodeNameNod大数据大数据后期服务与保障技术服务：大型故障7x24小时上门解决驻场服务：1人驻场，3年更新服务：3年免费功能更新远程支持：普通问题远程支持与协助服务内容：新加数据，数据有错误，更新，硬件异常，扩容…运维保障服务三盟科技为学校原厂的大数据运维保障服务，协助学校日常大数据项目的管理，主要内容包括如下：大数据大数据后期服务与保障技术服务：大型故障7x24小时上门大数据大数据项目实施阶段阶段任务分解需求调研需求文档编写需求评审需求确认阶段里程碑完成需求文档编写完成需求确认阶段验收条件需求文档符合规范需求邮件确认需求阶段准备阶段阶段任务分解获取接口信息：资费系统获取接口信息：上网行为审计系统获取接口信息：考勤门禁系统获取接口信息：教务系统获取接口信息：一卡通系统获取接口信息：图书管理系统获取接口信息：其它接口…阶段工期开始时间：2016-xx-xx结束时间：2016-xx-xx投入人员：x人阶段里程碑每个接口信息获取都是里程碑验收标准接口信息文档收集完整阶段任务分解数据建模资费系统、上网行为审计系统、考勤门禁系统、教务系统、一卡通系统、图书管理系统数据采集处理外部数据爬取场景开发：例如我的大学、行为预警、就业指导，学生行为画像阶段里程碑模型建立每项数据采集完成每个业务场景完成开发验收标准数据能正常采集例如：我的大学、行为预警、就业指导、学生行为画像能正常使用开发阶段测试和试运行阶段阶段任务分解模块整合集成测试bug修复回归测试试运行阶段里程碑学校大数据版本发布验收标准学校大数据版本正常发布确认试运行使用情况大数据大数据项目实施阶段阶段任务分解阶段里程碑阶段验收条件需大数据数据存储大数据研发实力强中国、美国硅谷两个研究院数十名国内外教育专家顾问过百名专业的研究人员“一体化”交付支持高校大数据建设的整体与应用的真正落地，实现“一体化”交付。业务模块丰富已完成6大业务模块，后续规划超过10种高校大数据业务模块123456专注教育行业专注中国教育行业超过10年，教育行业投入资源大，了解教育真实需求与云计算融合提供云计算与大数据融合，在云平台上实现大数据节点的自动部署技术标准无制约为不同的数据产品提供一致接口，消除软硬件限制，实现弹性部署，保障应用体验大数据数据存储大数据研发实力强