高校智慧校园大数据综合服务平台高校大数据整体解课件

高校智慧校园大数据综合服务平台（高校大数据整体解决方案）目录1现状分析ADDYOURTITLE032技术实现ADDYOURTITLE093大数据业务ADDYOURTITLE154平台应用ADDYOURTITLE2101现状分析开发背景面临挑战DATA高校大数据开发背景战略机遇：培养大数据人才、利用高校大数据深化高校管理促进高校改革发展、使用大数据平台提高高校科研水平和效率，既是高校面临的重要任务，也是高校发展的战略机遇。大数据正在逐渐成为社会基础设施，成为每一家组织机构的标配。“大数据”之“大”，更多的意义在于：人类可以“分析和利用”的数据在大量增加，通过这些数据的交换、整合和分析，人类可以发现新的知识，创造新的价值，并让很多常态化的认知、判断、思维定式、产品形态、服务模式，形成全新的面貌和演进方向。

大数据已经引起国际社会的高度重视，世界各国都在加快推进大数据战略布局。大数据产业已上升至国家战略高度，正日益渗透到经济发展和社会生活的方方面面。2015年9月5日，国务院发布《促进大数据发展行动纲要》，文件指出“数据已经成为国家基础性战略资源”，并在启动的十大工程之一“公共服务大数据工程”中明确提出要建设教育文化大数据。

教育大数据已经上升到国家战略层面，引起社会各界的广泛关注和高度重视。教育大数据将首先破解传统教育面临的六大难题（发展不均衡难题、方式单调化难题、信息隐形化难题、决策粗放化难题、择校感性化难题、就业盲目化难题），助推教育的全方位变革与创新发展。

确立教育大数据在我国教育事业发展与改革中的战略地位已是国家教育现代化建设的必然要求。教育大数据是重要的国家战略资产、教育领域综合改革的科学力量与发展智慧教育的基石。

人类社会已经迎来“大数据时代”。培养大数据人才、利用高校大数据深化高校管理促进高校改革发展、使用大数据平台提高高校科研水平和效率，既是高校面临的重要任务，也是高校发展的战略机遇。DATA高校面临的大数据问题01020304数据来源多元化，共享数据库涵盖系统多，高校生源不断扩张，信息不断积累，致使数据库中的信息不断增加，进而为数据挖掘、管理和分析带来了困难。数据规模日益庞大高校不同学科与专业采用的大数据环境大多依赖现有的IT环境，导致大数据运行的基础软硬件环境比较混乱且极其不稳定，缺乏有效的运维管理，严重影响教学和科研工作的正常进行。缺乏稳定高效的大数据环境校园的信息仍然停留在收集和累积阶段，尽管移动终端系统的不断发展为信息采集带来了极大的便利，但采集后的数据仅仅停留在查询阶段，并没有对数据进行整合、分析和梳理，使得这些信息仍未被管理者采用，作为决策依据的信息则少之又少。数据利用不充分数据剧增由量变引起质变，使科研人员的思维和行为模式在传统的学科研究领域发生转变。如何借助大数据相关技术以及资源，找到本学科研究成果的新视角，已经成为当前高校研究的重要课题。数据驱动带来的科研新挑战DATA高校大数据平台建设意义高校作为高科技人才以及创新技术的摇篮，承载着科研攻关和人才培养的双重使命。在新的科技浪潮中，高校应瞄准时代最前沿，将教学科研创新、专业人才培养与大数据紧密融合在一起，在更高起点上推动学校在大数据教学、科研以及创新方面再上新台阶。建设意义010205040306实现个性化学习集成教育数据挖掘与学习分析技术，持续采集学习行为数据，智能分析，推送适合的学习资源并进行个性化学习建议。实现教育评价体系重构采集教与学的全过程数据，全面客观记录学生成长轨迹，引导学生培养模式和教育质量管理方式科学健康发展。实现科学研究范式转型解决科研经费等科研管理难题，提供便捷的技术支撑与人性化服务，提高研究的效率和结果的可信度。实现科学化教育管理注重相关关系识别，强调因果关系的确定，发现隐藏的、有用的信息，做好教育管理和决策工作的数据支持。实现教学模式改革教学数据分析与预测，改变教学模式，实现个性化教育，调整教学方案，优化教学方法，提高教学质量。开启“大数据创客”新模式完成创新应用及发布，完善高校信息化建设，提升高校实力，加速创客成果转化，推动创意实现产业化，打造具有影响力的“创客校园”。02技术实现技术架构标准体系业务开发平台应用开发与服务DATA高校大数据平台技术架构以构建基础硬件层为底层支撑，利用云计算、大数据的数据集成、数据安全、服务器集群、数据计算与挖掘分析等技术，遵循“18”（1个中心平台8大技术标准）大数据标准体系，通过HIVE和HBASE构建大数据数据中心。在此基础上，公司自主研发了“国子数据魔方”业务开发平台，通过业务开发平台进行应用开发、应用发布、服务注册的信息化管理，并可以将应用以可视化界面展示给用户，为领导决策提供数据依据。架构示意图如下：DATA高校大数据平台技术架构1、基础硬件层基础硬件层是由一组低廉的PC或服务器组合构建而成。基础硬件层主要承载着数据的存储、运算、容错、调度和通信等任务，对基础应用层下达的指令进行执行和反馈。2、数据集成大数据特征表现在实时、交互、海量等方面，并且以半结构化、非结构化数据为主，价值密度低，为了更好地“让数据说话”，并充分发挥大数据价值效应，应坚持“能采尽采”的原则，数据源的涵盖范围要尽量大。3、数据计算与分析挖掘大数据平台涵盖了大数据场景下常用的计算场景，包含离线计算、实时计算、流式计算、数据挖掘与机器学习等。可以更容易、更方便地构建全生命周期的数据湖，使数据的加工、处理、创新过程更加丰富，从而实现数据的更大价值。5、服务器集群服务器集群是将很多服务器集中起来一起进行同一种服务，集群可以获得更高的计算速度，也可以用作备份，任何一个服务器损坏整个系统都能正常运行。群集化操作可以减少单点故障数量，实现群集化资源的高可用性。4、数据安全大数据平台通过一系列的认证授权和资源隔离机制，实现数据资源的安全性、可维护性、可用性、可信性。提供统一认证服务负责对使用者的身份进行验证；提供统一授权服务负责对用户的资源访问权限进行控制；提供统一资源调度负责对用户使用的底层资源进行隔离。DATA高校大数据平台技术架构6、大数据技术标准一个中心平台：大数据业务开发平台。8大技术标准：基础标准、数据表示标准、数据处理标准、数据存储标准、数据服务标准、数据安全和隐私标准、行业大数据标准、大数据产品测试标准。

7、大数据数据中心通过对各种类型的结构化、半结构化、非结构化数据信息的采集、预处理、分析处理以及存储等相关操作，构建统一、规范、全面的大数据数据中心，为相关工作提供数据支持。8、大数据业务开发平台以Hadoop为核心，融合优秀技术，提供开放的数据和业务开发平台，进行应用开发、应用发布、应用注册及应用服务的信息化流程管理，从而提升了大数据应用体验，有利于发挥创新精神，创造无限价值。9、大数据业务可视化分析大数据业务可视化分析能够将隐藏于海量数据中的信息和知识挖掘出来，为用户提供可视化的操作分析界面；为用户的相关活动提供数据依据，从而提高工作效率。DATA高校大数据平台标准体系大数据信息标准为数据收集、数据处理、数据存储、数据分析与挖掘提供指导和参照标准，加快建立高校信息采集、存储、公开、共享、使用、质量保障和安全管理等技术标准，引导建立信息共享交换的标准规范，促进信息资源开发利用，实现大数据汇聚整合，为大数据、云计算提供强有力的基础支撑。抓好大数据标准体系建设，推进国家大数据战略实施，应对三方面需求：面向高校教育的需要，研制开放、共享大数据标准；助力高校教育创新发展，制订典型领域相关标准；保障资源安全、保护个人隐私，研制安全标准等，以数据为基本元素进行数据安全管理，规范数据的共享、使用和管理的整个流程，解决跨平台的数据交互、数据开放共享等难题。公司对我国现有标准、在研标准和将提出的标准计划进行梳理，依据大数据技术体系，从基础、技术、产品、应用等不同角度进行分析，形成了大数据标准体系框架，按照"18"的理念进行设计，即以"国子数据魔方"业务开发平台为支撑，构建基础标准、数据表示标准、数据处理标准、数据存储标准、大数据服务标准、大数据安全和隐私标准、行业大数据应用标准和大数据产品测试八大技术标准。DATA高校大数据平台标准体系通过平台和技术标准的建设，整合和引导资源、激活科技要素、推动自主创新与开放创新，促进大数据健康发展；加速技术积累、科技进步、创新成果推广，加速大数据在高校的广泛应用，促进高校全面、协调、可持续发展；解决数据共享难、数据格式不统一、数据标准不规范、数据重复建设等难题。DATA高校大数据平台标准体系1、基础标准大数据术语、大数据参考架构、大数据平台架构标准，能够更加切合实际的对相关操作进行描述，形成统一数据标准，进而为数据库提供基础支撑和服务。2、数据表示标准数据编码规范、元数据规范、非结构化数据、数据集统一描述规范等，确保数据信息的交互共享，进而消除信息孤岛。3、数据处理标准数据质量评价标准、数据采集标准、数据组织标准等大数据处理阶段相关的标准规范，消除变量自身变异和数值大小的影响，为大数据应用打下良好的基础。4、数据存储标准

非关系型数据库规范、非结构化数据管理系统规范等大数据背景下的新型存储系统相关规范，有助于数据进行交互式传输和管理，提高存储量、存储速度，进而为大数据快速挖掘、提取、分析提供基础。DATA高校大数据平台标准体系5、大数据服务标准提供大数据实时分析服务、可视化服务等一系列大数据服务的标准化描述和接入，提升数据之间的关联性，降低数据分析的复杂度，大幅度提高分析的准确性。6、大数据安全和隐私标准大数据对外服务时，制定数据存储安全、数据传输安全、数据分析挖掘安全等方面的标准，为安全面临的内部管理和外部攻击提供可靠的数据存储、安全的挖掘分析、严格的运营监管。7、行业大数据应用标准相关领域大数据应用、领域大数据的分类和编码等方面的标准，能够更准确地规范各行业的数据标准，并推出与行业相匹配的产品。8、大数据产品测试标准大数据产品的测试场景、测试指标、测试工具等。大数据产品测试标准的建立能够公平、客观地评测大数据产品的功能和性能，对人们选择合适的大数据产品具有重要的参考价值。DATA高校大数据业务开发平台为提供众多便捷易用的开发框架和服务引擎，使用户可以迅速地掌握、认知以及使用平台上开放的数据，针对不同的应用场景选择合适的服务引擎进行二次开发，公司自主研发“国子数据魔方”业务开发平台，在提供开放数据的同时，也允许用户通过该平台进行大数据应用的开发，为用户提供一体化应用开发、测试、部署、运行、管理、监控等托管环境，使应用开发人员无需关心应用的底层硬件和基础设施建设，从而提高工作效率。其架构图如下：DATA高校大数据业务开发平台—大数据中心大数据数据中心不是简单的硬件设备集成，也不仅仅是数据存储的中心，而是数据流通和应用服务的中心。它具备十分丰富的信息资源、安全可靠的机房设施、高水平的网络管理和十分完备的增值服务，数据中心是高校信息化建设的基础性项目之一。数据中心通过统一的数据格式实现应用系统之间的数据交换和共享。高校数据中心具有以下建设意义：收集、存储各类数据的同时有效地将数据管理起来，为高校各个应用系统提供统一的数据服务，保证数据的一致性。打破信息孤岛为学校部门和各位领导提供实时数据。各部门之间可以很方便地查看其他部门的公开数据；领导可以统筹查看全校所有部门的业务数据，能够直观地了解学校的情况。互联互通便于后期的应用系统开发，将应用与数据分离开来，降低应用系统扩展开发的难度，为全面整合高校应用系统打下坚实的基础。预留接口DATA高校大数据业务开发平台—大数据业务平台层大数据业务平台由组件、大数据处理引擎、APP、BI引擎构建而成。大数据业务平台是基于PAAS思想构建，并遵循SAAS标准。01DATA组件组件是大数据业务平台的最基本元素，在大数据业务平台中内建组件接口标准，所有的组件都遵循该标准。在标准中定义组件的输入、私有项和输出。在业务开发过程中，通过图形化界面对一个或多个组件进行创建、编辑和关联，从而组合成一个数据处理服务对外发布。02DATA大数据处理引擎大数据处理引擎是整个业务平台的执行中枢，通过对发布服务中的关联组件进行解析、调度、执行、迭代、合并等操作实现整个服务的平稳运行。03DATAAPPAPP是由一个或多个发布的数据处理服务组合而成的轻应用。用户通过图形化界面编辑APP展现的数据和图表形式。04DATABI引擎BI引擎对构建的APP的数据绑定服务和图表形式进行解析和展现。DATA高校大数据应用开发与服务—数据有序开放“大众创业，万众创新”的政策和移动互联网、大数据、物联网等新技术的快速发展，驱动了面向互联网的传统行业的快速创新。大数据是一把双刃剑，开放的同时意味着社会的风险。如何做好数据的有序开放是大数据面临的难题，我们主要按照以下原则进行大数据的有序开放。010203高校数据共建建立统一的数据标准和数据存放接口的互联，使数据从产生开始就有共同的标准。高校数据的互通按照“18”大数据标准体系，建立大数据数据中心，消除高校信息化建设的信息孤岛，实现高校数据互通。高校数据共享高校数据来自数字化校园的方方面面，在保障数据安全的前提下，数据需要经过加工脱敏之后，再对用户开放，让数据服务于高校，进而为高校创造数据价值。03大数据业务高校大数据平台三大用途高校大数据平台核心业务DATA高校大数据平台三大用途之培养大数据人才的平台近年来，移动互联网、云计算、大数据、物联网等信息技术取得了突飞猛进的发展，已经在深刻地改变着人类社会的方方面面。“互联网”、大数据更是已经上升到了国家战略层面，成为提升全社会的创新力、生产力，促进经济发展新形态的基础设施和实现工具。高校作为人才培养、技术创新的前沿阵地，需要充分感知最新技术发展方向，掌握和创新最前沿科学技术，培养时代迫切需求的创新型人才。根据国内外高校开展大数据课程建设经验以及现有大数据技术就业市场需求而构建的大数据人才培养平台，以大数据为方向，引进国内外先进大数据技术、成熟解决方案以及管理与教学内容，搭建云计算、大数据管理技术、大数据应用软件开发等技术平台，培养学生研究大数据科学与工程领域问题、解决大数据实际应用问题的能力，系统掌握大数据主流的存储、管理、分析处理技术，以及大数据平台架构和建设，实现科研、教学与社会服务的顺畅衔接，逐步打造以培养大数据人才为核心的科研、教学基地。DATA高校大数据平台三大用途之培养大数据人才的平台创新意识、创新精神、创新思维、创造力或创新人格等创新素质的培养需要一个长期的过程。创新教育与学科教育相结合，纳入人才培养体系，利用大数据、“互联网”、云平台的优势，构建大数据人才平台、打造创新教育人才培养新模式、创新教育教学组织新形式，使学生掌握企业运作的规律与本质，增加师生良性互动，真正培养出社会、企业所需要的创新型人才。DATA高校大数据平台三大用途之深化高校管理促进高校改革发展的平台010205040603可视化分析可视化可以直观的展示数据，让数据自己说话数据存储和数据仓库便于多维分析和多角度展示数据按特定模式进行存储所建立起来的关系型数据库。数据仓库提供数据抽取、转换和加载，为联机数据分析和数据挖掘提供数据平台。数据质量和数据管理通过标准化的流程和工具对数据进行处理可以保证一个预先定义好的高质量的分析结果。语义引擎语义引擎需要能够从“文档”中智能提取非结构化数据信息，并利用一系列的工具去解析，提取，分析数据。预测性分析能力预测性分析可以让分析员根据可视化分析和数据挖掘的结果做出一些预测性判断。数据挖掘算法集群、分割、孤立点分析还有其他算法让我们深入数据内部，挖掘价值。大数据分析六个方面DATA高校大数据平台三大用途之深化高校管理促进高校改革发展的平台12345学生行为分析校园一卡通分析舆情分析校情大数据分析个性化学习分析大数据分析应用DATA高校大数据平台三大用途之提高高校科研水平和效率的平台0104030205实现高校科研选题科学化挖掘社会公众、工商企业、政府和事业单位以及其他非盈利机构对科学知识和技术的需求情况，辨别哪些科学知识和技术需求是最为迫切和社会经济效益极为突出的，提高科研选题的针对性，实现科研选题的科学化。实现研究数据共享复用搭建开放式大数据科研平台，充分融合教师的科研需求，提升教师的科研创新能力，充分提高“研”的成效，提供行业数据及案例解剖用于基础研究，提供数据分析方案及流程，提供数据更新接口，为科研工作提供数据支撑。实现高校科研选题科学化大数据科研平台提供多场景数据计算和分析挖掘的科研基础环境，充分结合行业课题的相关数据，利用大数据技术深入挖掘分析，满足行业大数据的科研工作需求，进一步提升高校的大数据科研水平，借助完善的产学研体系，实现科研成果向业务价值的转化。大数据技术在高校科研管理创新中的应用主要有以下几个方面：避免重复研究挖掘不同层级、不同类别和不同区域之间科研选题申报和立项情况，结合科研选题申报高校及其研究团队的研究特长与特色，监控科研项目重复立项风险，避免重复研究，节约科研经费，减少资源浪费。监督学术道德和诚信高校科研管理人员在课题申报阶段，对申请书进行学术道德与诚信的监督，避免学术不端行为发生。大数据科研平台提供多场景数据计算和分析挖掘的科研基础环境，充分结合行业课题的相关数据，利用大数据技术深入挖掘分析，满足行业大数据的科研工作需求，进一步提升高校的大数据科研水平，借助完善的产学研体系，实现科研成果向业务价值的转化。大数据技术在高校科研管理创新中的应用主要有以下几个方面：04大数据平台应用应用方案架构安全态势感知大数据教学创新大数据科研创新大数据管理创新DATA高校大数据平台应用方案架构DATA高校大数据平台应用业务模型DATA安全态势感知内嵌网络安全态势感知系统，安全态势感知系统采用大数据转化为安全智能的理念，收集各种安全数据，并结合威胁情报系统，进行关联分析，实现感知、溯源、预警。DATA综合安全态势感知安全态势感知系统对多源安全数据进行关联分析，将海量安全数据转化为少量安全事件，并进行集中呈现，大幅度降低安全运维复杂性；基于攻击链模型，将针对重点服务器的各种攻击事件从时间维度上做关联，还原网络攻击情景，追溯攻击过程。结合威胁情报，实现对即将发生的潜在威胁进行通告预警。借助安全态势感知系统，打破原有安全产品之间的数据壁垒，消除信息孤岛问题，为构建企业信息安全纵深防护体系提供强有力的支撑。DATA行为预警学生行为预警直接关注的就是学生在校期间的异常表现，包括思想和行为等各个方面。通过学生生活数据，实现对学生的“高效、便捷、准确”的“管、控、查”一体化。主要从学生疑似未住宿预警、学生疑似不在校预警、学生晚寝晚归预警、学生预警趋势分析、学生就餐高峰、学生就业预警等方面进行数据挖掘。DATA大数据教学创新之教学质量评估对学生给予教师的评价、学生活跃程度、学生成绩和教师授课情况等数据进行分析研究，帮助教师更好地进行教学活动。DATA大数据教学创新之上网行为分析对各年级同学上线次数、上网时间段、总流量以及在线课程的欢迎程度等数据进行分析研究，引导学生合理运用网络资源，树立健康的上网理念。DATA大数据教学创新之学生成绩分析对学生成绩以及排名等数据进行分析研究，更加清晰地了解学生成绩的整体分布状况以及学生的学习状况。DATA大数据科研创新之科研成果分析对科研成果的获奖比例、科研成果的学科背景和科研成果的论文级别等数据进行分析研究，清晰统计科研获奖情况。DATA大数据科研创新之科研项目分析对科研项