技术演进为大数据行业发展提供动力分析

技术演进为大数据行业发展提供动力分析技术演进为大数据行业发展提供动力随着5G、云计算、人工智能、物联网等技术的快速发展，数据量呈爆炸性增长态势，数据复杂度进一步提高。技术演进对软件的数据处理能力提出更高要求的同时，也为市场提供了新的发展方向和增长点，为行业发展提供了新的契机。行业应对策略大数据产业作为具有国家战略意义的新兴产业，在发展初期不仅要充分发挥企业的主体作用和有效市场的主导作用，而且要更好发挥政府的引导作用。一是，要加强核心技术攻关与产业化推动。自主研发创新是提高大数据产业竞争力的主引擎。要彻底改变目前我国大数据产业创新能力不强、关键核心技术对外依赖度偏高的这一局面，必须抓住重点领域、关键环节和核心问题，找准着力点和突破口，加大政府财政资金的引导支持力度。为此，建议在国家层面上设立大数据重点领域的关键技术研发创新的国家财政专项资金，支持突破一批关键核心技术研发创新与应用，构建具有核心技术自主权的大数据产业链，形成自主可控的大数据技术架构，提高关键核心技术的自主研发创新能力，有效破解制约产业发展的瓶颈。二是，完善大数据安全政策。需要开展数据确权、资产管理、市场监管、跨境流动等数据治理的重大问题研究，协调有关部门共同推进数据治理的法制化进程，加强对敏感数据、企业商业秘密和个人数据的保护。同时，推动完善适用于大数据环境下的信息安全等级保护制度，建立兼顾安全与发展的数据管理和保障体系，加强数据安全评测、安全防范、应急处置等相关机制建设。此外，还要强化网络空间的安全信息共享与动态感知能力，提高重大风险识别分析水平。三是，鼓励地方因地制宜发展大数据产业。大数据产业发展应注重差异化发展，形成差异化的产业布局。地方需要差异化发展，应该把大数据的发展重心放在因地制宜地促进应用创新上，放在打造完善的发展环境上，让市场在大数据发展要素配置上起决定作用。各地要结合产业基础和优势特色，着重发展大数据特色场景应用，推动大数据与当地重要实体经济行业加快融合。四是，推动行业加快大数据标准建设。当前大数据产业应用层出不穷，政府应通过标准化的途径规范行业、整合资源，促进各方达成共识，为大数据产业的健康发展提供基石。尤其是通过加强快速迭代、市场认可度高的行业/团体标准研制工作，为用户企业提供大数据产品选型指导，为数据安全提供保障，促进大数据交易等新兴服务模式规范发展，对推动我国大数据产业进程具有重要意义。大数据定义及特征大数据（BigData），又称巨量资料，是指超过传统数据应用软件处理能力的大量、复杂数据集合。大数据技术指从海量数据、种类繁多的数据中快速且准确获得有价值信息的技术能力。大数据规模大且传输速度要求高，其特征通常可概括为五点，即规模（Volume）、快速（Velocity）、多样（Variety）、价值（Value）、准确（Veracity）。数据类型主要分为三种，结构化数据：也称行数据，是具备统一的结构、能够用行列二维形式表达和管理的数据，如关系型数据库数据。半结构化数据：是一种适于数据库集成的数据模型，也可以是一种标记服务的基础模型，用于Web上共享信息。非结构化数据：数据结构不规则，不方便用行列二维形式表达的数据。中国大数据行业市场规模中国大数据行业市场规模逐年增长，据市场研究机构尚普咨询集团的数据，2022年已经超过了3000亿元。细分市场中，基础设施服务市场规模最大，主要包括数据中心建设和运营、硬件设备等，约占总市场的40%左右。其次是数据服务市场，包括数据挖掘、分析、建模等，约占30%。最后是应用市场，包括大数据应用系统和平台、大数据服务等，约占25%。政府对大数据行业的支持政策也在不断完善。如双创政策鼓励企业创新，互联网+战略推动数字经济发展，数字中国建设等。政府还通过提供资金支持、税收优惠、人才培养等手段，来推动大数据行业的发展。地区发展上，经济发达的东部地区市场规模较大，如上海、北京、广东等。这些地区拥有较高的经济水平、较好的基础设施和较为成熟的市场，吸引了大量大数据企业入驻。而中西部地区正在快速发展，其中西部地区政府支持力度较大，如重庆、四川等地的大数据发展取得了长足进展。这些地区政府通过提供资金支持、税收优惠、人才培养等手段，来推动大数据行业的发展，吸引了大量大数据企业入驻。在未来发展趋势上，随着物联网、人工智能、云计算等新技术的普及，大数据应用领域将会不断扩大。越来越多的企业和行业将开始使用大数据技术来提升经营效率和降低成本。政府和相关机构也将加大对大数据行业的支持力度，推动行业标准化和规范化。同时，随着数据保护和隐私保护问题的日益重视，大数据安全和合规性将成为大数据行业的重要发展方向。预计到2025年，中国大数据市场规模将达到1万亿元以上，大数据应用将更加广泛，在各行各业得到广泛应用。在智能制造、智慧城市、智能医疗、智能金融等领域将有突破性进展。总的来说，中国大数据行业具有巨大的市场潜力和发展机会，将在未来发展中取得新的突破。大数据产业进展显著过去几年，大数据理念已经深入人心，用数据说话已经成为所有人的共识，数据也成了堪比石油、黄金、钻石的战略资源。五年来，我国大数据产业政策日渐完善，技术、应用和产业都取得了非常明显的进展。农业环保检察税务等部门还出台了领域大数据发展的具体政策。截至2019年初，所有省级行政区都发布了大数据相关的发展规划，十几个省市设立了大数据管理局，8个国家大数据综合试验区、11个国家工程实验室启动建设。可以说，大数据的政策体系已经基本搭建完成，目前已经纷纷进入落地实施甚至评估检查阶段。在技术方面，我国大数据技术发展属于全球第一梯队，但国产核心技术能力严重不足。我国独有的大体量应用场景和多类型实践模式，促进了大数据领域技术创新速度和能力水平，处于国际领先地位。在技术全面性上，我国平台类、管理类、应用类技术均具有大面积落地案例和研究；在应用规模方面，我国已经完成大数据领域的最大集群公开能力测试，达到了万台节点；在效率能力方面，我国大数据产品在国际大数据技术能力竞争平台上也取得了前几名的好成绩；在知识产权方面，2018年我国大数据领域专利公开量约占全球的40%，位居世界第二。但我国大数据技术大部分为基于国外开源产品的二次改造，核心技术能力亟待加强。例如，目前国内主流大数据平台技术中，自研比例不超过10%。在产业方面，我国大数据产业多年来保持平稳快速增长，但面临提质增效的关键转型。2018年，我国大数据产业延续多年来的增速，继续保持相对高速的增长。根据中国信息通信研究院的测算，2018年我国大数据产业整体规模有望达到5400亿元，同比增长15%。然而，综合国内外环境、新兴技术发展等多种因素，大数据产业的增速出现了下滑。我国的大数据产业也面临着从高速发展向高质量发展的关键转型期。在应用方面，大数据的行业应用更加广泛，正加速渗透到经济社会的方方面面。随着大数据工具的门槛降低以及企业数据意识的不断提升，越来越多的行业开始尝到大数据带来的甜头。无论是从新增企业数量、融资规模还是应用热度来说，与大数据结合紧密的行业正在从传统的电信业、金融业扩展到健康医疗、工业、交通物流、能源行业、教育文化等，行业应用脱虚向实趋势明显，与实体经济的融合更加深入。大数据行业展望未来三年，是我国大数据发展转型的重要机遇期。大数据的发展本身也呈现着一些趋势。在我看来，未来三年大数据行业有可能会呈现特点：一是，大数据新技术继续快速发展。未来大数据技术将会沿着工具平台云化部署、多业务场景统一处理、专有高性能硬件适配几个方面进行突破。目前大数据技术工具的主要应用模式为应用企业在自建机房内独立部署，其存在资源浪费、弹性能力不足、管理复杂等缺点，这些缺陷可以通过基于云计算技术的云化部署方案解决，助力大数据技术工具的快速落地和应用；同时大数据技术工具主要瞄准的是分析型业务场景，但随着电子商务以及智能终端的爆发性发展，转账、计费等事务型业务场景也需要大数据处理能力，所以未来的多业务场景统一处理技术将会得到充分发展；最后由于GPU/TPU等专用硬件的发展，此类专用硬件能够助力某些大数据技术进行突破性升级，所以对新型硬件的适配成为很多大数据企业未来研发计划的重点。二是，数据流通共享将迎来关键突破。这些年，推动数据开放共享的政策举措一直在加强，然而效果与预期还有差距。可以说，技术手段将是数据流通共享瓶颈突破的关键。未来三年，随着同态加密、差分隐私、零知识证明、量子账本等关键技术的性能提升和门槛降低，随着区块链、安全多方计算等工具与数据流通场景进一步紧密结合，数据共享和流通将有望再前进一大步。三是，数据服务合规性将成为行业关注重点。近两年来，随着欧盟《通用数据保护条例》（GDPR）的颁布和正式实施，个人信息保护的重视程度被提到了前所未有的高度。GDPR对数据主体的权利规定细致入微，其数据可携权被遗忘权等方面的规定可能会对我国数据立法带来一定的参考。对我国企业来说，数据服务合规性的重要程度进一步提升，将对企业业务开展带来重大影响。目前中国信息通信研究院正在着力推动的可信数据服务计划也正是契合了行业的这一需求。四是，数据资产管理重要性将进一步提升。随着大数据应用进入深水区，企业将越来越重视数据资产管理方法论体系建设即从架构、标准、研发、质量、安全、分析到应用的统一，从而实现技术到业务价值的转化和变现。未来三年，数据资产管理将仍是企业数据部门面临的难点与挑战。即使是领先的科技型企业，在数据资产管理这一课题上仍在不断探索新的方法，如全链路智能管理体系、数据资产的贡献度、数据基线度量与质量规范的工具化、可视化等。产业的五大困局虽然我国大数据总体发展形势良好，也面临难得的发展机遇，但仍然存在一些困难和问题。一是，涉及核心技术的产业发展薄弱，未能有效提升我国核心技术竞争力。核心技术的影响力在大数据产业有着极高的重要性。由于大数据企业在完成产品开发后，可以近乎零成本无限制的复制，因此拥有核心技术的大企业，很容易将技术优势转化为市场优势，即凭借具体的信息产品赢得海量用户获得垄断地位。当前，从大数据技术与产品的供给侧看，我国虽然在局部技术实现了单点突破，但大数据领域系统性、平台级核心技术创新仍不多见。大数据处理工具都是他山之石，大部分企业用的都是国外的数据采集、数据处理、数据分析、数据可视化技术，自主核心技术突破还有待时日。尤其是开源产品的技术标准方面，我国的影响力尚亟待提升。二是，数据孤岛和壁垒降低了大数据产业资源配置效率。大数据产业发展必须实现数据信息的自由流动和共享，如果数据不开放、不共享，数据整合就不能实现，数据价值也会大大降低。无论是政府数据、互联网数据还是其他数据，数据拥有者往往不愿对其进行开放流通。受制于前期信息基础设施建设，目前我国政府数据往往还存在着诸多数据孤岛和数据烟囱，数据价值难以发挥。三是，数据安全管理薄弱增加了大数据产业的发展风险。大数据技术为经济社会发展带来创新活力的同时，也使数据安全、个人信息保护乃至大数据平台安全等面临新威胁与新风险。海量多源数据在大数据平台汇聚，来自多个用户的数据可能存储在同一个数据池中，并分别被不同用户使用，极易引发数据泄露风险。利用大数据技术对海量数据（21．90-5．19%，诊股）进行挖掘分析所得结果可能包含涉及国家经济社会等各方面的敏感信息，需要对分析结果的共享和披露加强安全管理。四是，产业垄断与恶性竞争现象频发，劣币驱逐良币现象明显。由于资源型产业门槛低、利润高，新兴的大数据企业往往首先将目光盯在获取数据资源上面。大量依托数据资源优势的企业诞生，为大数据产业带来了低附加值的垄断经济模式，使得依靠技术壁垒打江山的企业不得不面对残酷的市场竞争，放缓了技术研发的步伐。同时，数据垄断问题也愈发明显。少数互联网巨头企业拥有巨大数据，不但对产业发展不利，甚至存在巨大的数据聚集隐患。五是，各地发展同质化严重，普遍存在重存储轻应用的现象。由于缺乏统一的大数据产业分类统计体系和产业运行监测手段，各地大数据产业的定位相似，同质化竞争加剧。