大数据架构师工作内容(18篇)_第1页
大数据架构师工作内容(18篇)_第2页
大数据架构师工作内容(18篇)_第3页
大数据架构师工作内容(18篇)_第4页
大数据架构师工作内容(18篇)_第5页
已阅读5页,还剩17页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

本文格式为Word版,下载可任意编辑——大数据架构师工作内容(18篇)无论是身处学校还是步入社会,大家都尝试过写作吧,借助写作也可以提高我们的语言组织能力。写范文的时候需要注意什么呢?有哪些格式需要注意呢?下面是我帮大家整理的优质范文,仅供参考,大家一起来看看吧。

大数据架构师工作内容篇一

1.负责大数据平台的基础技术规划,编制相关规范文档。

2.负责大数据平台的数据采集,处理,存储以及挖掘分析的架构实现。

3.负责大数据平台的实际规划建设,包括环境和框架的规划搭建以及部分核心编码工作。

4.负责大数据相关技术发展方向的预研。

5.参与业务需求调研,根据需求及行业特点设计大数据解决方案并跟进具体实施项目。

6.制定大数据平台中数据质量,业务质量监控及管理方法。

岗位要求:

1.全日制本科及以上学历,5年以上工作经验,4年及以上大数据架构设计经验,熟悉大数据解决方案,包括hadoop平台、spark、storm、机器学习、深度学习等大数据解决方案。

2.深刻理解大数据处理(流计算、分布式计算、分布式文件系统、分布式存储等相关技术)实现方法。有架构和设计实践经验。

3.精通大型数据库oracle、sqlserver等的开发。

4.精通java,python中的一种或多种语言。

5.熟悉容器、虚拟化、微服务框架等相关技术。

6.对数据敏感,有严谨的工作思路,良好的沟通能力和团队合作精神。

7.熟悉r,python,sas、spss等数据挖掘经验者优先。

8.高宽展性,高性能,和分布式系统的实践及运维经验者优先。

9.有大型数据仓库实施、大数据平台数据开发经验,熟悉运营商业务者优先。

大数据架构师工作内容篇二

职责:

1、负责dmp技术架构设计与构建,根据业务规划及技术规划制定应用架构方案;

2、负责设计构建dmp数据采集、存储及分析框架,设计数据处理的技术流程和规范;

3、负责核心功能的架构与代码模板编写,开发与维护系统公用核心模块;

4、负责基于大数据技术的海量数据的自动化分析处理和统计工作。

岗位要求:

1、计算机或相关专业本科以上学历,三年以上的开发经验,二年以上大数据相关软件架构的实际经验;

2、精通大数据处理技术,熟悉hadoop/storm技术体系,有hadoop、hive、hbase项目经验;

3、具有较强的架构能力,具有分布式计算、实时计算、数据仓库、数据挖掘系统的架构经历优先;

4、对数据敏感,洞察力强,了解国内外广举报展趋势;

5.、擅长系统分析与设计,精寻常用的设计模式,擅长性能调优;

6、熟悉dmp/rtb技术原理,了解用户的行为分析及建模;有rtb/dsp/ssp/exchange/dmp等广告行业从业经历。

大数据架构师工作内容篇三

职责:

1、负责spark,hadoop,flink等开发和优化。

2、参与前期需求沟通和分析,以产品化开发的思维,完成需求分解和数据架构设计。

3、与研发和数据科学家合作保证产品定义明了,按时完成产品上线。

4、能够洞察市场状况,与各部门合作转化为基于大数据挖掘的新策略或方案.

5、主动创造和挖掘新的基于大数据挖掘产品商业模式.

任职要求:

1、全日制本科及以上学历,计算机软件相关专业,5年以上开发经验,3年以上架构经验

2、精通hadoop/mapreduce/spark/hbase/flink/hive/r/mahout等分布式数据存储和分布式计算平台原理,流式计算开发,有开源二次开发经验者优先。

3、精通大数据挖掘、机器学习.熟练把握java/perl/python至少一种编程语言。

4、具有数据挖掘和分析、机器学习等项目实施相关经验者优先;

5、良好的跨部门沟通合作能力,解决不同观点能力并取得结果。具备敏锐的互联网产品理解力,学习能力和规律思维能力强;

6、较强的自我驱动力、推动和协调能力,猛烈的责任心和团队合作精神;

大数据架构师工作内容篇四

职责:

1、负责大数据平台技术框架的技术选型和搭建;

2、负责核心技术问题公关,建设高可靠性,扩展性及高性能大数据/数据应用平台;

3、负责规划数据挖掘的整体流程,负责大数据开发团队业务需求开发;

4、与其他团队密切协同,寻求数据层面的业务价值,利用数据分析结论推动产品优化;

5、研究和共享大数据架构领域新技术。

任职要求:

1、计算机相关专业全日制统招本科及以上;

2、5年以上工作经验,至少3年以上大数据项目相关工作经验,能够设计大型大数据系统的架构和技术方案;

3、精通hadoop/spark/hbase/hive等大数据技术,精通etl技术;

4、熟悉数据挖掘,了解典型大数据算法和策略;

5、熟悉主流java技术框架,精通关系型数据库及sql语言,熟悉nosql/json/xml;

6、有较强的学习能力和问题解决能力,规律严密、思路明了;

7、有数据仓库经验者优先,有金融行业项目经验者优先。

大数据架构师工作内容篇五

职责

1、负责大数据架构设计,包括定义数据的存储、集成(etl)、应用,支撑业务运营和数据分析类需求实现;

2、制定数据治理领域的数据体系化管理措施,包括元数据设计、数据标准、数据质量、数据处理、数据安全等工作,确保数据可信与安全;

3、基于行业数据积累,满足业务的数据挖掘需求,实现从数据到资产的转变,根据目标行业建立具有前瞻性的数据模型;

4、对各产品的数据安全负责,主导制定和实施数据库系统安全策略,保证整体方案数据安全;

岗位要求

业务技能要求:

1、深入理解云化、数据仓库,在参与过的系统设计中,必需涉及这两项关键技术;

n2、精通或者熟悉hadoop体系架构,以及hdfs/hbase/hive/mapreduce/spark等技术,了解体系架构各组件的优缺点,有直接的产品设计与开发、部署、调优的经验;

3、精通或熟悉常见rdbms(oracle/postgresql/mysql)、nosql(redis/memcached/mongodb)、全文探寻引擎(solr/elasticsearch)的使用及开发,了解各数据库优缺点,熟悉与架构设计相关的数据存储、性能调优等相关领域知识,有相关项目经验尤佳;

4、熟悉业界常用的数据采集、集成、数据存储、计算、数据模型、数据分析的技术方案,具有数据分析或数据挖掘相关经验者优先;

n5、熟悉数据治理相关流程,包括数据接入、数据处理、数据治理、数据组织、数据服务等。

专业知识要求:

1、具备数据治理的知识与体系方案,包含政策、组织、角色、流程、规范等,以及规划相应的支撑方案。了解业界的数据管理方法论;

2、具备数据用例设计和开发能力。能够基于业务相关数据进行业务需求分析和痛点识别,将业务需求转化为数据的需求,完成数据用例的设计和开发;

3、精通海量数据(日增量百亿)级别数据仓库、数据集市的构建流程。熟悉公安、政务、工业、交通、医疗等多行业业务者优先。

大数据架构师工作内容篇六

职责:

1、数据分析软件平台架构搭建

2、负责深度学习核心框架或高性能后台服务系统的架构设计工作,包括系统总体规划、架构设计、系统分析、软件实现、性能优化;

3、指导开发人员开发,并解决系统出现的问题,理解物业需求;

4、制定开发计划和控制开发进度,负责指导研发团队开展设计工作;

任职要求:

1、硕士以上,计算机或先关专业;

2、5年左右软件开发经验,含3年以上系统分析、设计经验,有大型软件项目大型软件项目;有中大型互联网企业数据库架构设计及管理经验,

3、具备良好的组件级建模能力,熟悉http、tcp等协议

4、熟练使用uml进行软件架构设计,至少精通ea,rational,visio等一种设计工具.

5、精通至少一种编程语言,熟悉linux相关技术,能独立在上面进行开发、测试和部署

6、深入理解数据库、数据仓库、大数据、分布式体系架构和关键技术

大数据架构师工作内容篇七

职责:

1、负责公司大数据底层框架的整体架构设计,结合公司实际业务状况进行技术选型及大数据战略规划;

2、负责公司项目的整体评估、设计、架构及关键模块的开发;

3、负责架构优化,协助团队解决开发过程中遇到的技术难题;

4、负责新技术的调研和大数据相关开源组件的研究,并能在团队进行推广应用;

5、参与数据分析、数据建模、项目核心模块及核心框架的开发;

6、负责大数据平台的性能条有和问题诊断。

任职要求:

1、计算机相关专业,本科及以上学历,3-5年以上工作经验,2-3年大数据相关经验;

2、具有扎实的大数据和数据仓库理论功底,负责过大数据平台或数据仓库设计;

3、对基于hadoop的大数据体系有深入的认识,具备相关产品(hadoop、hive、hbase、spark、storm、flume、kafka、redis、es等)项目应用研发经验,有hadoop集群搭建和管理经验,度过hadoop和spark源码;

4、熟悉linux和python语言,了解scala原理和底层技术;

5、熟悉分布式系统的架构及对其进行设计和优化,对海量数据的明了、分析处理及存储有相关的实战经验;

6、算法基础扎实,熟悉常见的数据结构,深入理解分布式算法和以上提到的分布式系统,

7、必需有一线coding的能力;

8、有统计学、数学知识,海量数据处理、分析和挖掘,大型互联网公司从业经历着优先。

大数据架构师工作内容篇八

职责

1、负责企业级大数据平台、数据云服务的设计与开发;

2、基于大数据生态圈,支持聪慧交通等大数据场景应用实现;

3、负责公司大数据产品的设计、封装与落地;

4、负责学习大数据相关算法研究、实现与应用

任职要求

1、统招本科及以上学历;2年以上聪慧城市建设或交通行业信息化相关工作经验,3年以上大数据架构设计、开发经验;

2、精通大数据生态圈的技术,包括但不限于mapreduce、spark、hadoop、kafka、mongodb、redis、flume、storm、hbase、hive,具备源码级问题解决和集群优化改造能力;

3、熟悉常用编程语言,包括java、python、scala等;

4、具有很强的技术研发和创新能力,能有效把握技术发展方向,有较强的执行能力、学习能力、沟通能力、适应能力,责任心强;

大数据架构师工作内容篇九

职责:

1.负责产品级业务系统架构(如业务数据对象识别,数据实体、数据属性分析,数据标准、端到端数据流等)的设计与优化。协助推动跨领域重大数据问题的分析、定位、解决方案设计,从架构设计上保障系统高性能、高可用性、高安全性、高时效性、分布式扩展性,并对系统质量负责。

2.负责云数据平台的架构设计和数据处理体系的优化,推动云数据平台建设和持续升级,并制定云数据平台调用约束和规范。

3.结合行业应用的需求负责数据流各环节上的方案选型,主导云数据平台建设,参与核心代码编写、审查;数据的统计规律回归算法、实时交互分析;数据可视化方案等等的选型、部署、集成融合等等。

4.对云数据平台的关注业内技术动态,持续推动平台技术架构升级,以满足公司不同阶段的数据需求。

任职要求:

1.熟悉云计算基础平台,包括linux(ubuntu/centos)和kvm、openstack/k8s等基础环境,熟悉控制、计算、存储和网络;

2.把握大型分布式系统的技术栈,如:cdn、负载均衡、服务化/异步化、分布式缓存、nosql、数据库垂直及水平扩容;熟悉大数据应用端到端的相关高性能产品。

3.精通java,python,shell编程语言,精通sql、nosql等数据库增删改查的操作优化;

4.pb级别实战数据平台和生产环境的实施、开发和管理经验;

5.熟悉docker等容器的编排封装,熟悉微服务的开发和日常调度;

6.计算机、软件、电子信息及通信等相关专业本科以上学历,5年以上软件工程开发经验,2年以上大数据架构师工作经验。

大数据架构师工作内容篇十

职责:

1、负责相关开源系统/组件的性能、稳定性、可靠性等方面的深度优化;

2、负责解决项目上线后生产环境的各种实际问题,保障大数据平台在生产上的安全、平稳运行;

3、推动优化跨部门的业务流程,参与业务部门的技术方案设计、评审、指导;

4、负责技术团队人员培训、人员成长指导。

5、应项目要求本月办公地址在锦江区金石路316号新希望中鼎国际办公,月底项目终止后在总部公司办公

任职要求:

1、熟悉linux、jvm底层原理,能作为技术担当,解决核心技术问题;

2、3年以上大数据平台项目架构或开发经验,对大数据生态技术体系有全面了解,如yarn、spark、hbase、hive、elasticsearch、kafka、prestodb、phoenix等;

3、把握git、maven、gradle、junit等工具和实践,重视文档管理、重视工程规范优先;

4、熟悉java后台开发体系,具备微服务架构的项目实施经验,有dubbo/springcloud微服务架构设计经验优先;

5、性格开朗、擅长沟通,有极强的技术敏感性和自我驱动学习能力,重视团队意识。

大数据架构师工作内容篇十一

职责:

负责大数据平台的规划和搭建、完成大数据平台的日常运营工作,为数据分析和浮现提供支持;

对系统框架相关技术和业务进行培训,并负责核心代码编写,指导团队开发及解决出现的系统问题;

参与基于大数据平台的创新业务场景进行数据产品的架构设计,负责数据产品的研发交付;

负责处理大数据平台的疑难问题,为数据团队提供可靠的技术支持;

负责数据质量、稳定性等数据管理,数据内部共享融通的数据平台,让数据标准更规范、数据获取更高效;

及时跟进大数据领域新技术并共享,提升团队技术能力。

任职要求:

本科或以上学历,5年以上数据系统建设经验,3年以上大数据架构设计经验;

精通java,python,scala等一种大数据开发语言,熟悉hadoop生态圈,包括但不限于hdfs,hive,spark,有丰富的大数据项目的实践经验;

具备创新精神,条理明了,沟通表达和规律思维能力强;

熟悉数据仓库的设计和开发,对数据架构有深入的了解和具备相关的项目实践经验优先;

对sqlonhadoop的开源查询引擎(如presto、apachedrill)原理有深入研究优先;

有灵敏大数据和数据可视化实践经验优先。

大数据架构师工作内容篇十二

职责:

1、负责规划科技大数据平台及科技数据入库自动化的方案设计;

2、负责大数据平台的开发和维护,以及对外服务接口的开发;

3、负责大数据平台的优化和改进工作。

任职要求

1、计算机相关专业本科及以上学历,5年以上开发经验,其中3年以上为互联网、大数据相关的开发经验;

2、熟知hadoop生态圈体系,精通hadoop/spark/storm/kafka中的一项或几项,深刻理解mapreduce的运行原理和机制,有mpi经验者尚佳;

3、熟悉elasticsearch、redis、hbased等相关数据库的构建和操作,特别是数据库集群的构建和操作,熟悉neo4j者尚佳;

4、具有机器学习相关项目经验者优先。

大数据架构师工作内容篇十三

职责:

1.负责大数据基础平台、海量数据存储/处理分布式平台、数据分析系统架构设计和研发;

2.负责实时计算平台基础架构设计、部署、监控、优化升级;

3.制定项目/数据仓库设计及实现规范,指导设计研发和部署;

4.协助策略和算法团队工作,保障数据挖掘建模和工程化;

5.深入研究大数据相关技术和产品,跟进业界先进技术;

任职要求:

1.全日制本科及以上学历,5年以上软件和分布式系统研发经验,3年以上大数据系统架构经验;

2.精通hadoop/hbase/spark/storm/redis技术及其生态圈;

3.具备良好的系统分析能力、故障诊断能力;

4有大数据策略、算法、可视化经验优先。

大数据架构师工作内容篇十四

职责:

1、负责公司大数据产品的架构设计,包含数据收集、数据存储、数据应用,并完成相关架构设计文档的撰写;

2、参与规划从数据源到数据应用的整体流程,并参与相关产品的决策;

3、负责解决核心技术问题,对技术方案进行决策;

4、负责大数据研发团队建设、人才梯队培养和技术团队管理;

5、积极了解业界发展,研究与跟踪大数据新技术发展方向。

任职要求:

1、精通goldengateforbigdata相关理论,具备大型数据利用的生产实战经验;

2、精通数据驱动的理论,设计并生产上线相关数据驱动的产品;

3、精寻常用消息中间件的使用,例如kafka/rocketmq/apachepulsar,有解读相关源码者优先;

4、把握hadoop、spark生态体系相关产品的使用,把握mapreduce编程或spark编程;

5、了解传统数据仓库理论及相关etl工具,例如kettle/datastage;

6、熟悉oracle、mongodb、mysql数据库的使用;

7、扎实的java语言基础,熟悉java开发工具和调试工具的使用;

8、良好的团队协作精神,有能力对团队在软件设计、实现和测试方面进行指导;

9、良好的规律分析能力和沟通能力,执行力强、对待工作认真严谨、责任心强、具备卓越的学习能力和团队合作精神,有一定的推动能力;

10、计算机科学、信息技术或相关领域本科以上学历,具有5年以上数据平台项目开发经验,3年以上的架构设计经验,具有大数据平台应用大型项目架构设计经验优先;

大数据架构师工作内容篇十五

职责:

1、大数据平台架构规划与设计;

2、负责大数据平台技术框架的选型与技术难点攻关;

3、能够独立进行行业大数据应用的整体技术框架、业务框架和系统架构设计和调优等工作,根据系统的业务需求,能够指导开发团队完成实施工作;

4、负责数据基础架构和数据处理体系的升级和优化,不断提升系统的稳定性和效率,为相关的业务提供大数据底层平台的支持和保证;

5、培养和建立大数据团队,对团队进行技术指导。

任职要求:

1、计算机相关专业的背景专业一类院校毕业本科、硕士学位,8年(硕士5年)以上工作经验(至少拥有3年以上大数据项目或产品架构经验);

2、精通java,j2ee相关技术,精寻常见开源框架的架构,精通关系数据库系统(oraclemysql等)和nosql数据存储系统的原理和架构;

3、精通sql和mapreduce、spark处理方法;

4、精通大数据系统架构,熟悉业界数据仓库建模方法及新的建模方法的发展,有dw,bi架构体系的专项建设经验;

5、对大数据体系有深入认识,熟悉kafka、hadoop、hive、hbase、spark、storm、greenplum、es、redis等大数据技术,并能设计相关数据模型;

6、很强的学习、分析和解决问题能力,可以迅速把握业务规律并转化为技术方案,能独立撰写项目解决方案、项目技术文档;

7、具有较强的内外沟通能力,良好的团队意识和协作精神;

8、机器学习技术、数据挖掘、人工智能经验丰富者优先考虑;

9、具有能源电力行业工作经验者优先。

大数据架构师工作内容篇十六

职责:

1.负责整个大数据平台架构的设计和构建;

2.负责构建大数据平台的数据交换、任务调度等通用平台;

3.制定开发、测试、实施、维护的标准和规范,指导和培训工程师,不断提升团队能力。

4.参与系统需求分析、架构设计、技术选型、应用设计与开发以及测试与部署,负责编写核心部分代码。

5.持续挑战新的技术方向,攻克大数据量、高并发、高可用、可扩展等技术难点。

任职要求:

1.3年以上大数据架构经验,丰富的数据仓库、数据挖掘、机器学习项目经验

2.大规模数据处理的架构和设计实战经验

3.精通spark、mr,熟练hdfs、yarn、hbase、hive、mongodb,熟悉kafka、redis、storm、mahout、flume、elasticsearch、graphdb(neo4j或其他)等,并具有丰富的大型数据平台工程经验

4.深刻理解大数据处理(流计算,分布式计算,分布式文件系统,分布式存储等)相关技术和实现方法

5.熟悉主数据、元数据、数据质量等企业数据管理相关的体系和方法,熟练linux/unix平台上的开发环境

6.本科或以上学历,计算机软件或相关专业,丰富的java开发经验和互联网背景优先。

7.具有比较强的问题分析和处理能力,有比较优秀的动手能力,热衷技术,精益求精

大数据架构师工作内容篇十七

职责:

1.深刻理解政府行业业务模式,构建政府行业的数据模型,制定公司大数据技术发展路线;

2.对接业务研究和技术部门,主动搜集和转化需

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论