版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
大数据架构师工作的岗位职责(31篇)
大数据架构师工作的岗位职责(精选31篇)
大数据架构师工作的岗位职责篇1
职责:
1、负责spark,hadoop,flink等开发和优化。
2、参与前期需求沟通和分析,以产品化开发的思维,完成需求分解和数据架构设计。
3、与研发和数据科学家合作保证产品定义清晰,按时完成产品上线。
4、能够洞察市场状况,与各部门合作转化为基于大数据挖掘的新策略或方案.
5、主动创造和发掘新的基于大数据挖掘产品商业模式.
任职要求:
1、全日制本科及以上学历,计算机软件相关专业,5年以上开发经验,3年以上架构经验
2、精通hadoop/MapReduce/Spark/Hbase/Flink/Hive/R/Mahout等分布式数据存储和分布式计算平台原理,流式计算开发,有开源二次开发经验者优先。
3、精通大数据挖掘、机器学习.熟练掌握Java/Perl/Python至少一种编程语言。
4、具有数据挖掘和分析、机器学习等项目实施相关经验者优先;
5、良好的跨部门沟通合作能力,解决不同观点能力并取得结果。具备敏锐的互联网产品理解力,学习能力和逻辑思维能力强;
6、较强的自我驱动力、推动和协调能力,强烈的责任心和团队合作精神;
大数据架构师工作的岗位职责篇2
职责:
1、负责DMP技术架构设计与构建,根据业务规划及技术规划制定应用架构方案;
2、负责设计构建DMP数据采集、存储及分析框架,设计数据处理的技术流程和规范;
3、负责核心功能的架构与代码模板编写,开发与维护系统公用核心模块;
4、负责基于大数据技术的海量数据的自动化分析处理和统计工作。
岗位要求:
1、计算机或相关专业本科以上学历,三年以上的开发经验,二年以上大数据相关软件架构的实际经验;
2、精通大数据处理技术,熟悉Hadoop/Storm技术体系,有Hadoop、Hive、Hbase项目经验;
3、具有较强的架构能力,具有分布式计算、实时计算、数据仓库、数据挖掘系统的架构经历优先;
4、对数据敏感,洞察力强,了解国内外广告发展趋势;
5.、擅长系统分析与设计,精通常用的设计模式,擅长性能调优;
6、熟悉DMP/RTB技术原理,了解用户的行为分析及建模;有RTB/DSP/SSP/E_CHANGE/DMP等广告行业从业经历。
大数据架构师工作的岗位职责篇3
职责:
1.负责大数据平台的基础技术规划,编制相关规范文档。
2.负责大数据平台的数据采集,处理,存储以及挖掘分析的架构实现。
3.负责大数据平台的实际规划建设,包括环境和框架的规划搭建以及部分核心编码工作。
4.负责大数据相关技术发展方向的预研。
5.参与业务需求调研,根据需求及行业特点设计大数据解决方案并跟进具体实施项目。
6.制定大数据平台中数据质量,业务质量监控及管理办法。
岗位要求:
1.全日制本科及以上学历,5年以上工作经验,4年及以上大数据架构设计经验,熟悉大数据解决方案,包括Hadoop平台、Spark、storm、机器学习、深度学习等大数据解决方案。
2.深刻理解大数据处理(流计算、分布式计算、分布式文件系统、分布式存储等相关技术)实现方法。有架构和设计实践经验。
3.精通大型数据库Oracle、SqlServer等的开发。
4.精通java,Python中的一种或多种语言。
5.熟悉容器、虚拟化、微服务框架等相关技术。
6.对数据敏感,有严谨的工作思路,良好的沟通能力和团队合作精神。
7.熟悉R,Python,SAS、SPSS等数据挖掘经验者优先。
8.高宽展性,高性能,和分布式系统的实践及运维经验者优先。
9.有大型数据仓库实施、大数据平台数据开发经验,熟悉运营商业务者优先。
大数据架构师工作的岗位职责篇4
职责
1、负责大数据架构设计,包括定义数据的存储、集成(ETL)、应用,支撑业务运营和数据分析类需求实现;
2、制定数据治理领域的数据体系化管理措施,包括元数据设计、数据标准、数据质量、数据处理、数据安全等工作,确保数据可信与安全;
3、基于行业数据积累,满足业务的数据挖掘需求,实现从数据到资产的转变,根据目标行业建立具有前瞻性的数据模型;
4、对各产品的数据安全负责,主导制定和实施数据库系统安全策略,保证整体方案数据安全;
岗位要求
业务技能要求:
1、深入理解云化、数据仓库,在参与过的系统设计中,必须涉及这两项关键技术;
n2、精通或者熟悉Hadoop体系架构,以及HDFS/HBase/Hive/MapReduce/Spark等技术,了解体系架构各组件的优缺点,有直接的产品设计与开发、部署、调优的经验;
3、精通或熟悉常见RDBMS(Oracle/PostgreSQL/MySql)、NoSQL(Redis/Memcached/MongoDB)、全文搜索引擎(Solr/ElasticSearch)的使用及开发,了解各数据库优缺点,熟悉与架构设计相关的数据存储、性能调优等相关领域知识,有相关项目经验尤佳;
4、熟悉业界常用的数据采集、集成、数据存储、计算、数据模型、数据分析的技术方案,具有数据分析或数据挖掘相关经验者优先;
n5、熟悉数据治理相关流程,包括数据接入、数据处理、数据治理、数据组织、数据服务等。
专业知识要求:
1、具备数据治理的知识与体系方案,包含政策、组织、角色、流程、规范等,以及规划相应的支撑方案。了解业界的数据管理方法论;
2、具备数据用例设计和开发能力。能够基于业务相关数据进行业务需求分析和痛点识别,将业务需求转化为数据的需求,完成数据用例的设计和开发;
3、精通海量数据(日增量百亿)级别数据仓库、数据集市的构建流程。熟悉公安、政务、工业、交通、医疗等多行业业务者优先。
大数据架构师工作的岗位职责篇5
职责:
1、负责大数据平台技术框架的技术选型和搭建;
2、负责核心技术问题公关,建设高可靠性,扩展性及高性能大数据/数据应用平台;
3、负责规划数据挖掘的整体流程,负责大数据开发团队业务需求开发;
4、与其他团队密切配合,寻求数据层面的业务价值,利用数据分析结论推动产品优化;
5、研究和分享大数据架构领域新技术。
任职要求:
1、计算机相关专业全日制统招本科及以上;
2、5年以上工作经验,至少3年以上大数据项目相关工作经验,能够设计大型大数据系统的架构和技术方案;
3、精通Hadoop/Spark/Hbase/Hive等大数据技术,精通ETL技术;
4、熟悉数据挖掘,了解典型大数据算法和策略;
5、熟悉主流Java技术框架,精通关系型数据库及SQL语言,熟悉NoSQL/JSON/_ML;
6、有较强的学习能力和问题解决能力,逻辑严密、思路清晰;
7、有数据仓库经验者优先,有金融行业项目经验者优先。
大数据架构师工作的岗位职责篇6
职责:
1、负责大数据开发团队建设;
2、负责行业大数据产品架构设计与研发;
3、负责带领团队进行行业大数据产品关键技术攻关。
任职要求:
1、有三年以上大数据应用、开发经验;具备海量数据加工处理(ETL)相关经验,对数据挖掘及机器学习有较为深刻的理解;
2、熟悉Hadoop相关技术,对HDFS、MapReduce、Hive、HBase有一定的使用和开发经验;
3、熟悉Linu_,熟练使用Shell或Python,进行脚本编写;
4、对数据结构和数据统计分析算法有较为深刻理解;
5、掌握至少一种主流关系数据库开发技术:Oracle、SQLServer、MySQL等;
6、掌握实时流计算技术,有Spark、Storm开发经验者优先;
7、需要具备2年以上研发团队管理经验。
大数据架构师工作的岗位职责篇7
职责:
1、正确理解业务需求,对需求进行工作量评估;
2、参与项目相关的需求、设计、投产手册等文档的编写;
3、根据进度计划,完成所承担功能模块的设计、开发、单元测试、联调测试;
4、配合测试组修复代码缺陷,确保功能实现与代码质量;
5、负责所承担功能模块投产、部署,及上线后的日常维护;
6、完成项目经理或者架构师安排的其他工作;
任职资格:
1、本科以上学历,计算机相关专业,两年以上大数据开发经验;
2、熟悉Linu_环境,掌握shell或python;
3、熟练使用hadoop,hive,HBase,YARN,kafka,spark等大数据开发组件;
4、精通ETL,数据仓库的设计和开发;
5、有大数据处理实战经验,熟悉整个大数据的完整处理流程,包括数据的采集、清洗、存储;
6、较强的动手能力和学习能力,良好的沟通能力、团队协调能力;
7、具有银行、金融行业从业背景者优先。
大数据架构师工作的岗位职责篇8
1、正确理解业务需求,对需求进行工作量评估;
2、参与项目相关的需求、设计、投产手册等文档的编写;
3、根据进度计划,完成所承担功能模块的`设计、开发、单元测试、联调测试;
4、配合测试组修复代码缺陷,确保功能实现与代码质量;
5、负责所承担功能模块投产、部署,及上线后的日常维护;
6、完成项目经理或者架构师安排的其他工作;
大数据架构师工作的岗位职责篇9
职责:
1、负责公司的大数据处理框架的研发设计工作,梳理可实现方案和技术规范;
2、开发、完善公司大数据平台;参与公司离线、实时大数据处理系统的设计、开发、测试及多个业务模块的自动化集成;
3、负责业务平台数据统计分析模块的设计与规划;
4、负责公司产品研发过程中的数据及存储设计;
5、带领和培养团队完成组织分解的目标;
任职要求:
1、统招本科及以上学历,计算机、软件工程相关专业,至少8年以上工作经验,5年以上大数据开发经验;
2、熟悉Java、Hadoop、HDFS、Hive、HBase、Spark、Storm、Flume等相关技术的基础架构
3、熟悉数据仓库,数据算法,分布式计算技术理论,具有大数据整体系统架构设计经验;
4、熟悉Linu_系统,熟练使用shell/perl/python脚本处理问题;
5、对深度学习框架(Tensorflow)和机器学习(svm随机深林贝叶斯等)有一定了解的优先;
6、能够组织项目开发组协同工作,包括团队沟通、计划、开发环境管理等
大数据架构师工作的岗位职责篇10
1)负责公司软件产品整体架构的设计和关键功能实现
2)负责公司架构长期看护以及优化;
3)负责软件部门各模组间的协调配合;
4)提高巩固软件代码质量;
5)负责大数据流式框架的设计、优化及部署;
6)规划研发部门员工的技术发展路线并提供必要的帮助和指导
大数据架构师工作的岗位职责篇11
职责:
1.负责企业数据中心建设,设计数据逻辑模型和物理模型,并完成相关开发
2.梳理公司各业务线常用的指标和维度,统一指标定义口径
3.根据数据应用开发和数据分析需求,设计数据仓库信息层模型,提高数据开发的效率
4.负责数据模型的运营和优化,及时响应业务逻辑变更,保证模型的数据质量和稳定性
5.负责公司数据标签体系的建设,并推动标签体系在实际业务场景中落地
岗位要求:
1.5年以上DW/BI数据架构设计、模型设计和性能调优等相关经验
2.有较强的数据分析能力,精通数据仓库架构,熟悉Erwin或PowerDesigner建模工具
3.精通一种主流关系数据库(如mysql等),熟悉Hive开发
4.有电商业务经验,元数据管理,数据质量管理或标签体系搭建经验者优先
5.优秀的协调沟通与团队协作能力,极强的责任心,能承受一定的工作压力,认同企业文化和团队价值
大数据架构师工作的岗位职责篇12
职责:
1、负责大数据项目平台架构的评估、规划和设计
2、开发大数据平台的核心模块代码,负责大数据平台的搭建,完成系统调试、集成与实施,保证大数据产品的上线运行
3、根据业务需求整合优化数据架构,保证产品的可靠性、稳定性
4、指导开发人员完成数据模型规划建设,分析模型构建及分析呈现
5、深入研究大数据相关技术和产品,跟进业界先进技术;
6、根据项目要求编写相关技术文档;
7、负责大数据平台的架构评审,代码评审,上线评审;参与数据应用需求、设计、审核和评审;
8、负责核心模块研发,负责大数据平台的搭建,完成系统调试、集成与实施;
9.负责关键功能的开发,技术难题的解决,以及输出代码的关键把控;
10.负责对使用关键技术的预研和选型,完成PoC;
11.指导工程师完成开发工作,并能分享技术经验。
任职资格:
1、精通Linu_操作系统,熟练使用Java;
2、3年以上大数据项目实战经验,两个项目的架构设计经验,熟悉Hadoop、Hbase、Storm、Spark、Pig等开源框架,并熟悉其工作原理;
3、有Hadoop、Spark、Hbase平台性能调优经验;
4、熟悉其它分布式存储相关技术,包括HDFS,Hive、Redis、Mongodb、Flume、Kafaka、Sqoop、Zookeeper、ElasticSearch等;
5、熟悉Java开发常用框架.如Spring、MyBatis等;
6、熟悉关系型数据库如oracle及数据库编程。
7、能够根据项目情况安排人力、分配任务,具有较强的团队管理能力。
8、硕士以上学历,20__年以上的工作经验。
大数据架构师工作的岗位职责篇13
职责:
1、负责大数据平台架构的评估、规划和设计;负责海量数据采集、处理及存储、应用方案的技术选型及架构实现;
2、开发大数据平台的核心代码,负责大数据平台的搭建,完成系统调试、集成与实施,技术难题的解决,保证大数据产品的上线运行;
3、根据业务需求持续优化数据架构,保证产品的可靠性、稳定性;
4、指导开发人员完成数据模型规划建设,分析模型构建及分析呈现,分享技术经验;
5、负责大数据平台的架构评审,代码评审,上线评审;参与数据应用需求、设计、审核和评审;
6、深入研究大数据相关技术和产品,跟进业界先进技术;
任职资格:
1.本科及以上学历,数学或计算机相关专业毕业,不少于5年的工作经验,具有扎实的计算机基础理论知识;
2.有3年以上Hadoop、Spark、Hbase平台性能调优经验;熟悉sparkstreaming等实时计算技术
3.熟悉hive、hbase、storm、mahout、flume、ElasticSearch、Spark、Kafka等,具备实际项目设计及开发经验;
4.熟悉sparkstreaming等相关的实时计算技术;
5.熟悉大规模数据挖掘、机器学习、自然语言处理、分布式计算中一项或多项技术,并具备多年的实际工作经验;
6.熟悉主流关系型数据库(Oracle、MySql)、NoSql数据库,熟悉pl/sql编程;精通Linu_操作系统,熟练使用Java;熟悉常用框架.如Spring、MyBatis等;
7.具有较强的执行力,高度的责任感、很强的学习、沟通能力,能够在高压下高效工作;
大数据架构师工作的岗位职责篇14
职责:
1、负责自然语音交互、IOT家电物联控制、知识图谱等相关模块和系统的开发;
2、负责掌握第三方接口的调用和功能实现,持续优化服务性能和容量,并保证产品的兼容性和执行效率;
3、根据设计文档和需求说明完成代码编写、调试、单元测试与维护,确保项目进度和质量;
4、协助制定测试计划,及时发现并修复BUG,实现服务端的性能优化。
任职资格:
1、大学本科3年以上工作经验,计算机相关专业;
2、熟悉软件项目开发流程,具有良好编码风格及文档编写能力;
3、熟悉Linu_服务器相关技术,能够独立完成服务器部署,具有相关经验;
4、熟悉Hadoop/Spark框架,JAVA基础扎实;
5、熟练使用Mysql数据库,了解MongoDB或neo4j等分布式数据库;
6、熟悉SpringCloud,SSM,Docker,redis开发者优先;
7、熟悉前端(包括但不限于Html5、css、Angularjs、aja_、jquery等)开发技术优先;
8、了解Socket网络编程、MQTT等,有相应实践经验者优先;
9、有智能语音语义、知识图谱服务端开发经验者优先。
大数据架构师工作的岗位职责篇15
职责:
1、负责大数据平台的架构设计、核心代码开发等任务;根据项目要求编写相关技术文档;
2、负责大数据平台的架构评审,代码评审,上线评审;参与数据应用需求、设计、审核和评审;
3、负责核心模块研发,负责大数据平台的搭建,完成系统调试、集成与实施;
4、负责建立和维护大数据平台技术标准规范,指导开发人员编写代码;
任职要求:
1、本科及以上计算机相关专业毕业;
2、精通离线和实时数据处理流程,掌握离线数据处理框架hive、impala、spark-sql等,掌握实时数据处理常用技术工具,包括Storm、SparkStreaming等;
3、熟悉大数据技术生态圈,精通大数据技术架构,有大数据平台构建经验;
4、掌握常见数据流接入工具,包括Flume、kafka等;
5、熟练掌握基本的Linu_操作系统和某种脚本语言编程(如Shell等);
6、掌握一种或以上实时处理语言,如JAVA、SCALA、PYTHON等,有SCALA经验者优先;
7、有实际大规模数据(TB级以上)处理经验优先;
大数据架构师工作的岗位职责篇16
职责:
1、负责规划大数据平台及应用产品的需求和技术方案设计;
2、负责数据对接和对外服务设计、开发和维护,并能保证质量和性能;
3、负责基于大数据平台的应用设计、开发和维护;
4、能从系统全局和各子系统的角度思考可能存在的问题,并提出改进方案建议;
任职要求:
1、大学本科6年以上工作经验,计算机相关专业。
2、至少4年以上的Java开发经验,3年以上大数据应用系统的开发和设计经验。
3、熟悉Hadoop生态圈技术体系,对离线计算、内存计算和流式计算均有深刻理解,如Hadoop、Storm、Spark三个中的任意二个,能进行平台和组件优化。
4、精通Hive、HBase仓库设计,深刻理解MR运行原理和机制,能进行以提供高任务执行效率的优化。
5、精通Java开发,熟悉JVM调优,对GC有深刻理解。
6、熟悉Linu_、Shell、Kafka、Oracle、Mysql、Redis等相关技术,能进行hbase可靠性诊断和维护。
7、快速研究和学习技术能力。
大数据架构师工作的岗位职责篇17
职责:
1.负责公司大数据平台的设计和开发,负责spark,hadoop,flink等云计算平台的开发和优化;制定数据架构规范,进行核心代码编写,指导团队落地;
2.负责数据基础架构和数据处理体系的升级和优化,技术难题攻关,持续提升核心系统性能,保证系统的安全、稳定、高效运行
3.设计并实现对BI分析、数据产品开发、算法开发的系统性支持
4.研究未来数据模型和计算框架的创新与落地,包括但不限于以下领域:大规模数据实时化、研发模式敏捷化、数据计算框架轻量化、数据模型组织方式业务化等方面参与制定并实践团队的技术发展路线
5.建立良好的公司内外的业界技术影响力;参与培养未来数据人才;有效辅导团队,提升数据研发能力
任职要求:
1.有很强的数据设计抽象能力,善于从复杂的数据问题中找到关键路径,能够开发创新而实际的分析方法以解决复杂的商业问题
2.有作为技术负责人系统化解决问题的成功案例;有海量数据建模实践经验优先
3.熟练掌握Hadoop、Spark、Flink、HBase的原理特性以及适用场景,精通流式计算开发,有开源二次开发经验者优先,有NLP数据处理经验者优先
4.性格积极乐观,诚信,能自我驱动,有较强的语言表达能力;具备强烈的进取心、求知欲及团队合作精神;具有良好的沟通、团队协作、计划和创新的能力
5.本科以上学历,扎实的计算机专业基础,有5年以上大数据平台开发经验;
大数据架构师工作的岗位职责篇18
1.深刻理解政府行业业务模式,构建政府行业的数据模型,制定公司大数据技术发展路线;
2.对接业务研究和技术部门,主动搜集和转化需求,组织数据中心业务开发,进行数据相关产品需求分析和设计;
3.搭建数据仓库,研发数据库管理系统,搜集、提取、处理业务积累的海量数据,开展数据分析和挖掘;
4.根据公司战略和发展需要,规划数据中心重点工作和任务;落实部门人员、事务管理,开展跨部门、跨地区协作,协助对外交流与合作。
大数据架构师工作的岗位职责篇19
职责:
1.负责公司大数据底层框架的整体架构设计,结合公司实际业务情况进行技术选型及大数据战略规划;
2.负责统一数据平台项目的整体评估、设计、架构及关键模块的开发,不断提升系统的稳定性和效率;
3.负责架构优化及系统关键模块的设计开发,协助团队解决开发过程中的技术难题;
4.建立良好的公司内外的业界技术影响力;有效辅导团队,提升数据研发能力;
任职要求:
1.从事大数据项目相关开发和设计2年以上经验;有作为技术负责人系统化解决问题的成功案例;有海量数据实践经验优先;
2.拥有一定的算法和数据结构基础;有很强的数据设计抽象能力,善于从复杂的数据问题中找到关键路径;
3.熟悉目前正在发展的大数据分布式平台前沿技术的应用;包括但不仅仅限于:hadoop、storm、spark、等;
4.良好的逻辑思维能力,良好的业务解读能力,懂电力或通信业务优先;
5.具有钻研精神,乐于接受挑战;
大数据架构师工作的岗位职责篇20
1、负责大数据项目技术架构评估与设计;
2、负责关键功能的开发,技术难题的解决,以及输出代码的关键把控;
3、负责对使用关键技术的预研和选型,完成PoC;
4、指导工程师完成开发工作,并能分享技术经验。
大数据架构师工作的岗位职责篇21
职责:
1、负责大数据项目技术架构评估与设计;
2、负责关键功能的开发,技术难题的解决,以及输出代码的关键把控;
3、负责对使用关键技术的预研和选型,完成PoC;
4、指导工程师完成开发工作,并能分享技术经验。
任职要求:
1、3年以上相关工作经验,其中具有1年以上架构设计经验
2、熟悉商业智能系统相关技术,如ETL、数据仓库、OLAP开发;
3、精通设计模式,熟悉面向服务架构(SOA)以及其它常用软件架构思想,有SOA方案设计、开发实施的实际经验,要具备实际的服务规划、服务粒度划分经验;并且要善于设计可重用组件和可定制化产品。
4、相关技术栈:Java/Scala/Flume/Hive/Kafka/HBase/Spark/Storm/Redis;
5、有扎实的计算机基础,熟悉Java等编程语言;
大数据架构师工作的岗位职责篇22
职责:
1、负责大数据平台的技术选型,基于Spark、Hadoop大数据平台建设和开发;
2、完成包括数据模型设计、数据采集、数据存储等方面的大数据系统架构的设计和数据层架构设计;
3、构建数据中台,为多种行业应用提供主数据(画像标签/关系图谱)、数据模型、人工智能业务算法及数据服务。
4、对海量数据处理的业务需求进行评估和方案设计、拆分任务并指导工程师完成开发;
5、带领大数据技术团队提供并实现大数据平台上各项数据分析和数据可视化的架构设计,支撑解决方案实施。
任职要求:
1、本科及以上学历,具有5年及以上大数据架构设计和开发经验;2年及以上带领团队经验;沟通能力强。在大型互联网企业从事大数据架构设计者优先考虑;有分布式大型商业软件系统设计经验、主导过大型商业软件的架构设计并取得过市场商业成功者优先考虑;
2、熟悉整个大数据的完整处理流程,包括数据的采集、清洗、预处理、存储、分析挖据、机器学习和数据可视化;
3、精通Oracle/MySQL/PostgreSQL/Greenplum/MongoDB等其中至少一种主流数据库的使用,并能进行性能调优;
4、具备优秀的团队意识和沟通能力,学习能力和主动性强,具有钻研精神,充满激情,乐于接受挑战。
大数据架构师工作的岗位职责篇23
职责:
1、负责规划科技大数据平台及科技数据入库自动化的方案设计;
2、负责大数据平台的开发和维护,以及对外服务接口的开发;
3、负责大数据平台的优化和改进工作。
任职要求
1、计算机相关专业本科及以上学历,5年以上开发经验,其中3年以上为互联网、大数据相关的开发经验;
2、熟知Hadoop生态圈体系,精通Hadoop/Spark/Storm/Kafka中的一项或几项,深刻理解MapReduce的运行原理和机制,有MPI经验者尚佳;
3、熟悉Elasticsearch、Redis、Hbased等相关数据库的构建和操作,尤其是数据库集群的构建和操作,熟悉Neo4j者尚佳;
4、具有机器学习相关项目经验者优先。
大数据架构师工作的岗位职责篇24
1.负责数澜大数据平台的架构设计和研发,建立数据生态服务,解决海量数据面临的挑战;
2.管理和优化Hadoop、Spark等集群,计算作业的调优,保证集群和平台的高效和稳定;
3.负责Hadoop、Spark、Flink的功能、性能和扩展,解决并实现业务需求;
4.负责大数据产品的自动化、离线与实时计算、即席计算、数据质量、数据安全、机器学习等平台的设计和开发;
5.调研和把握当前的最新技术,将其中的先进技术引入到自己的平台中,改善产品,提升竞争力;
大数据架构师工作的岗位职责篇25
职责:
1、负责大数据平台及BI系统框架设计、规划、技术选型,架构设计并完成系统基础服务的开发;
2、负责海量埋点规则、SDK标准化、埋点数据采集、处理及存储,业务数据分布存储、流式/实时计算等应用层架构搭建及核心代码实现;
3、开发大数据平台的核心代码,项目敏捷开发流程管理,完成系统调试、集成与实施,对每个项目周期技术难题的解决,保证大数据产品的上线运行;
4、负责大数据平台的架构优化,代码评审,并根据业务需求持续优化数据架构,保证产品的可靠性、稳定性;
5、指导开发人员完成数据模型规划建设,分析模型构建及分析呈现,分享技术经验;
6、有效制定各种突发性研发技术故障的应对预案,有清晰的隐患意识;
7、深入研究大数据相关技术和产品,跟进业界先进技术;
【任职要求】
1、统计学、应用数学或计算机相关专业大学本科以上学历;
2、熟悉互联网移动端埋点方法(点击和浏览等行为埋点),无埋点方案等,有埋点SDK独立开发经验者优选;
3、熟悉Hadoop,MR/MapReduce,Hdfs,Hbase,Redis,Storm,Python,zookeeper,kafka,flinkHadoop,hive,mahout,flume,ElasticSearch,KafkaPython等,具备实际项目设计及开发经验;
4、熟悉数据采集、数据清洗、分析和建模工作相关技术细节及流程
5、熟悉Liun_/Uni_操作系统,能熟练使用shell/perl等脚本语言,熟练掌握java/python/go/C++中一种或多种编程语言
6、具备一定的算法能力,了解机器学习/深度学习算法工具使用,有主流大数据计算组件开发和使用经验者优先
7、熟悉大数据可视化工具Tableau/echarts
8、具有较强的执行力,高度的责任感、很强的学习、沟通能力,能够在高压下高效工作;
大数据架构师工作的岗位职责篇26
职责:
1、负责面向政府信领域的企业(不限于)大数据平台、大数据应用等系统的架构设计、技术规划、技术选型
2、跟进业界大数据技术发展动态,匹配行业应用诉求,制定大数据策略,提前识别关键技术并完成技术验证;
3、支撑售前完成项目解决方案技术架构的设计及重要客户的交流;
4、负责指导研发完成大数据产品的开发
5、带领团队进行产品核心技术的创新和积累
岗位要求:
1、熟悉BI和大数据领域的解决方案,具备该领域全面的技术积累,包括报表平台,OLAP引擎和DB,ETL,数据仓库建模和设计,海量分布式数据处理分析架构;
2、在大数据处理和分析领域具有3年或者以上的技术规划、架构设计经验,并有成功的项目实践;
3、4年以上Hadoop实战经验,熟悉Hadoop底层文件系统及分布式计算框架,具备传统数据仓库、MPP、Hadoop等混搭平台架构的设计能力和数据建模能力,对大规模数据并行计算、传输、处理等有丰富的经验;
4、有实际应用storm、spark、flume、kafka等项目经验优先;
5、卓越的技术领导力,善于沟通、发现和解决产品需求阶段、开发阶段和测试阶段的问题,并能提供合理解决方案,有大中型互联网企业工作背景优先。
大数据架构师工作的岗位职责篇27
职责:
1.负责过多个大数据项目的架构;
2.精通Hadoop、Spark,HBase等主流的大数据平台、精通各组件优化设计原理;
3.精通大数据实时流式处理的设计和应用;
3.熟悉大数据平台调优,具备大数据生产平台调优经验;
4.金融行业,运营商行业大数据架构经验更优;
5.研究大数据技术的最新发展,并引入到公司技术架构;
6.指导大数据工程师的日常工作,并培养技术骨干。
任职资格:
1.计算机相关专业本科或以上学历;
2.具有5年以上大数据相关开发经验;
3.具有2年以上带团队经验
4.对Hadoop/Hive/Spark/HBase/ES等等大数据常用技术有深刻理解,能够带领团队进行技术攻坚,完成中间件的实施、改造、调优;
5.精通海量数据和实时数据的分析处理,能对线上的数据处理性能问题做调优;
6.精通数据仓库以及维度建模原理,有大型数据仓库建设经验;
7.精通关系型数据库和NoSQL数据库的使用,熟悉相关理论;
8.沟通顺畅,重点突出,高效。
大数据架构师工作的岗位职责篇28
职责:
负责大数据平台架构的规划和设计,主导系统的架构设计和核心模块开发,确保项目质量和关键性能指标达成;
负责大数据平台技术框架的选型与技术难点攻关,指导开发大数据平台的开发,保证大数据产品的上线运行;
负责深入理解业务需求,对业务建模,设计系统架构,满足业务需求;
负责协助策略和算法工作,保障数据挖掘建模和工程化;
负责根据业务需求整合优化数据架构,保证产品的可靠性、稳定性;
负责指导开发人员完成数据模型规划建设、分析模型构建及分析呈现;
负责研发技术发展方向,新技术领域的探索,将新技术应用到公司大数据平台,提升公司效能
任职要求:
本科及以上学历,拥有5年以上大数据平台产品或分布式系统设计经验,6年以上的开发经验;
精通Hadoop,熟悉大数据生态技术,如Storm、Spark、Scala、Flume、Kafka、Zookeeper、Yarn、Sqoop、CDH、Solr、Kylin、Impala、Hive、Hbase、Kerberos、Sentry等,有大规模集群架构、开发及运维经验;
熟练掌握java/Scala语言,实现面向对象开发思想OOA,OOD,OOP;
熟悉linu_操作系统,熟练掌握脚本言语Shell/Perl/Python等编码语言;
熟练掌握数据仓库设计,开发工作。能够根据业务设计并开发数据仓。
具备源码级问题解决和集群优化改造能力者优先;
能快速的学习新的开源框架和知识体系,并应用到现有架构体系中;
逻辑清晰,快速的学习能力,良好的沟通能力、团队协调能力。
具备良好的团队合作精神,较强的沟通交流能力,具备良好的技术领导能力;
具备良好的文档撰写能力和技术团队管理能力
大数据架构师工作的岗位职责篇29
职责:
1、负责大数据项目或产品中架构设计、数据仓库公共层与应用层建模;
2、负责大数据项目或产品中业务需求的需求理解、数据指标维度需求梳理、数据探查和分析,指导技术团队进行工作;
3、负责大数据项目中的具体技术管理工作,完成验收目标。
4、发现并解决数据质量问题,推动整体数据质量提升。
任职要求:
1、计算机相关专业,3年以上数据研发与数据仓库相关开发经验;
2、熟练掌握维度建模方法,有大型数仓构建经验优先;
3、精通Oracle/DB2/Teradata等主流数据库编程,有较好的SQL性能调优经验;
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 地方公务员辽宁申论26
- 大学生暑假营销社会实践报告(33篇)
- 四川省成都市(2024年-2025年小学五年级语文)部编版阶段练习((上下)学期)试卷及答案
- 台湾省(2024年-2025年小学五年级语文)部编版期末考试((上下)学期)试卷及答案
- 内蒙古呼伦贝尔市(2024年-2025年小学五年级语文)部编版专题练习((上下)学期)试卷及答案
- 2024新版(粤教沪教版)三年级英语上册单词带音标
- 第一章+第三节+研究幼儿心理的方法(课件)-《幼儿心理学》(人教版第二版)
- 人事专员绩效考核方案
- 2024年电大民族理论与民族政策试题及答案
- 1电能的获得和转化(原卷版)
- 《生于华夏何其有幸》演讲稿
- 国开作业电工电子技术-第十单元自测练习06参考
- 基础会计(第7版)ppt课件完整版
- JJG 747-1999 里氏硬度计检定规程-(高清现行)
- 四年级数学上册课件-4 积的变化规律36-人教版16张PPT
- 应急预案演练档案
- 《发展汉语》初级综合(I)1-10课测试一
- 幻方普通构造法
- 植物检疫证书
- 《现代社会调查方法》课件_7
- 微型消防站人员配备
评论
0/150
提交评论