大数据开发工程师的职责文本.doc
- 格式:doc
- 大小:20.50 KB
- 文档页数:5
大数据开发工程师的职责文本(通用28篇)大数据开发工程师的职责文本篇1职责:1、负责数据采集、数据存储、数据查询、数据计算等基础平台的设计和开发工作;2、利用Hadoop、Spark、Flink等技术进行离线和实时数据开发 ;3、负责大数据平台的规划升级、平台维护和优化 ;4、和其他部门或团队沟通、资源协调并落实工作。
任职要求1、本科及以上学历;2、3年以上大型大数据平台建设实施经验 ;3、掌握常用大数据组件hadoop、Hive、spark、Flink、hbase、elasticsearch等原理、使用和调优 ;4、具备较强技术功底,精通Java、Scala、Python等至少一种开发语言,能根据需求给出技术架构 ;5、有数据仓库、元数据管理和治理的开发经验优先 ;6、善于沟通,思维活跃、责任感强、工作积极主动,有良好的团队协作意识。
大数据开发工程师的职责文本篇2职责:1.结合项目或产品涉及的具体业务场景,对数据进行清洗、计算与加工;2.思路清晰,可快速响应数据处理的需求,评估并给出合理的解决方案,并采用合理的方式处理需求;3.积极主动,能够与团队成员进行有效沟通,并完成数据处理结果的核对与对接;4.完成上级交办的工作或任务。
岗位要求1.计算机相关专业大专以上学历;2.2年以上大数据产品或项目开发经验,精通Hadoop生态圈,熟练使用Spark,HBase、Hive、Kafka、Redis等;3.精通SQL,熟练使用HSQL实现复杂数据处理逻辑,并具备数据处理调优的能力;4.熟悉Linux开发环境,熟悉Linux的shell命令。
5.具有良好的逻辑思维能力和严谨的程序开发思想,具备独立问题排查与处理的能力;6.良好的团队精神和合作意识,强烈的责任心,对工作有激情,良好的沟通能力,能吃苦耐劳;7.有大数据项目或产品背景者优先;8.有使用Spark SQL进行数据处理,并具有Spark SQL优化经验者优先。
大数据开发工程师的工作职责模板(精选27篇)大数据开发工程师的工作职责模板篇1职责:1、参与ODS系统或Hadoop 系统数据库相关开发,包括数据仓库的数据模型设计(ODS层设计、基础数据层设计、汇总层设计等);2、参与ETL Mapping设计及开发工作;3、参与客户/用户画像、经营管理、产品画像、营销活动等主题域建设工作。
资质要求:1.计算机相关专业本科及以上学历,优秀者放宽至大专;2.有大型数据库(ORALCE/MSSQL SERVER等)开发经验,有Sybase IQ\\HIVE\\Spark SQL开发经验者优先;3、有较强的SQL编程能力,熟练编写存储过程,能设计各种复杂的业务处理、统计分析语句,精通sql性能优化;4、具有数据仓库、ods、BI商务智能项目经验者优先,具有金融行业项目背景者优先;5、较好的沟通理解能力,态度踏实,积极上进。
大数据开发工程师的工作职责模板篇2职责:1.负责金融银行大数据系统相关模块的数据架构及研发实施工作2.依据业务场景、分析需求提供技术解决方案并加以实现;3.与客户业务部门对接,解决数据建模、报表和报告在系统开发遇到的问题;任职资格:1.具备3年以上DW系统建设经验,了解BI系统,有数据管理经验,有维度建模相关经验,了解数据仓库建设过程中的挑战与问题2.精通多系统数据融合、清洗、转换、整合,具备海量数据加工处理相关经验3.熟悉业界数据仓库建模方法、元数据管理、数据质量体系管理4.掌握大型数据库开发技术(ORACLE/DB2等),有丰富的数据库模型设计和优化经验5.熟练掌握Unix/Linux常规命令、工具及Shell编程6.掌握一门或多门编程语言优先,如Java、Python、scala等7.熟悉Hadoop、spark、kafka等大数据生态相关技术,有相关实践经验着优先8.良好的语言沟通与表达能力和自我驱动动力9.具备银行项目设计、开发、优化等经验者加分大数据开发工程师的工作职责模板篇3职责:1、独立负责工作小组,并对下级成员进行监督;2、具备资源整合以及对软件项目全局把控的能力;3、负责软件项目的系统设计和需求分析;4、制定软件项目开发计划,并按时完成功能模块的设计、开发以及编程任务;5、积极配合并完成主管下达的任务,并能够对软件部门的发展规划提出意见;任职条件1、大数据相关开发经验3年以上,至少具备2年以上java开发经验;2、有基于hadoop的数据抽取、转换、加载的开发相关经验;3、熟练掌握hadoop生态的相关知识,如hive,hbase,flume.kafka,storm,spark,mapreduce等;4、熟悉Linux操作系统。
大数据开发工程师的岗位职责(精选19篇)大数据开发工程师的篇1职责:1、负责所分管团队的团队建设和日常管理工作;2、负责核心技术问题攻关和性能优化,持续维护和引进最新的大数据技术到城市大数据平台中,支撑城市级大数据平台业务;3、承担城市数据标准编制和数据模型的设计;4、承担项目中数据相关方案设计及数据团队管理;5、参与城市大数据项目中数据采集、加工过程、分析挖掘模型算法的实施工作。
任职资格:1、1年以上数据开发工作经验,熟练使用SQL查询引擎;2、熟悉Hadoop、Mpp、Oracle等至少一种数据仓库工具3、具备良好的编程语言基础如:java/python/scala/c++/shell 等4、二本以上学历,计算机相关专业或者有相关培训经历者优先5、个人素质要求:目光长远、态度诚恳、岗位有稳定性,能够长期培养、具备很强的自学能力、承压能力强、接受出差支援项目等工作。
对数据工作具备浓厚的兴趣并有明确职业规划,优秀的学习能力和团队沟通协作能力,对新技术有浓厚兴趣并有钻研精神。
大数据开发工程师的岗位职责篇2职责:1、负责数据分析、加工、清理,相关处理脚本和程序的开发;2、负责开发大数据工具,如报表平台、多维度分析工具、ETL平台、调度平台的研发;3、负责分布式大数据平台应用开发(Hadoop/Spark/Hive/HBase等);4、负责大数据相关平台的维护、优化。
任职要求:1、本科及以上学历,计算机相关专业,具有5年及以上的大数据ETL或数据开发经验,熟悉大数据组件的维护以及调优;2、熟练掌握Java或Python编程语言,熟悉大数据架构体系,熟悉Hadoop、HDFS、Hive、HBase、Spark、Kafka等技术中的一个或者多个,熟悉Sqoop、DataX等数据导入工具;3、能熟练使用Hive、HBase、Spark等加工和处理数据,有海量数据处理经验;4、有数据仓库开发经验/BI系统开发经验优先;5、有电商行业数据处理与分析平台开发经验者优先。
大数据开发工程师的主要职责(精选28篇)大数据开发工程师的主要职责篇1职责:1、负责公司大数据平台建设;2、根据业务需求,制定数据仓库和数据分析平台的实施和持续更新;3、攻克技术难关,保证大数据系统的稳定运行;4、完成大数据产品的开发。
职位要求:1、计算机相关专业全日制专科及以上学历,大数据相关经验;2、熟悉Java或Scala语言,熟悉Spark,Hadoop,Kafka,Hive,HBase,ZooKeeper等大数据相关技术;3、精通SQL语句并对Redis,Mongodb等NoSQL数据库有一定经验;4、对于高并发、高稳定可用性、性能、大数据处理有过实际项目产品经验者优先;5、责任心强,工作踏实,有团队协作精神,沟通能力强者优先。
大数据开发工程师的主要职责篇2职责:1、负责基于Hadoop/Spark平台架构的开发、设计和布局 ;2、完成系统框架的设计和核心代码的编写;3、针对海量的用户行为数据进行统计、分析与挖掘,不断提高系统运行效率;4、负责对数据进行分析,为项目组提供大数据技术指导及分析手段支撑;5、负责大数据平台的性能监控和持续优化;针对需求提供大数据分析技术解决方案 ;6、大数据平台的运维工作,持续完善大数据平台,保证稳定性、安全性;7、熟练使用大数据ETL数据抽取工具;8、领导安排的其他工作。
任职资格:1、 3年互联网行业开发经验,计算机或相关专业本科以上学历;2、精通Hadoop大数据平台架构,具有扎实的Java/Python等开发语言;并可以开发高效可靠的代码;3、具有较强的数据分析、数据挖掘的能力;4、熟悉spark、Hive、storm等计算框架者优先,对分布式存储和计算原理有较深的理解;5、严密的数学思维、突出的分析和归纳能力、优秀的沟通表达能;6、个性开朗,对技术钻研好学、逻辑思维能力强,沟通能力优秀,有团队合作精神。
大数据开发工程师的主要职责篇3职责:1.负责公司环保大数据平台的架构与搭建;2.负责需求分析,根据客户应用需求规划大数据平台架构;3.负责将大数据平台部署至私有服务器群、私有云或公有云;4.负责在企业内部进行数据平台原型开发与数据实时交互、存储性能测试;5.负责与数据挖掘算法交互的架构设计与开发。
数据库开发工程师的岗位职责说明模版一、岗位概述:数据库开发工程师是负责设计、开发和维护数据库系统的专业人员。
主要职责包括数据库架构设计、数据库程序开发、数据库性能优化与调优、数据库备份与恢复等方面的工作。
数据库开发工程师需要具备扎实的数据库技术知识和丰富的实际项目经验,能够独立完成数据库开发和维护工作。
二、岗位职责:1.参与数据库系统的需求分析和设计工作,根据业务需求进行数据库逻辑和物理设计。
2.负责数据库模型的设计和优化,确保数据库结构合理、性能优良。
3.根据需求进行数据库的开发工作,包括表结构设计、存储过程编写、触发器设计等。
4.负责数据库程序的调试和优化,提高数据库系统的性能和稳定性。
5.进行数据库的备份和恢复工作,确保数据安全性和完整性。
6.负责数据库的监控和维护工作,及时发现并解决数据库系统的问题。
7.参与数据库系统的升级和迁移工作,确保数据库系统的平稳过渡。
8.解决用户在数据库使用过程中遇到的问题,提供技术支持和咨询服务。
9.进行数据库维护文档的编写和更新,记录数据库的版本和变更情况。
10.研究数据库新技术和新产品,根据业务需求推动数据库系统的创新和升级。
三、任职要求:1.本科以上学历,计算机、信息技术、软件工程等相关专业。
2.具备扎实的数据库原理和技术知识,熟悉主流数据库系统的使用和管理。
3.掌握数据库设计和开发的方法和流程,具备独立完成数据库开发项目的能力。
4.熟悉数据库性能优化和调优的方法和工具,能够解决数据库系统的性能问题。
5.具备良好的编程和脚本开发能力,熟练掌握SQL语言和常用的脚本语言。
6.熟悉数据库备份和恢复的方法和工具,能够确保数据库的数据安全性。
7.具备数据库系统监控和维护的经验,能够独立解决数据库系统的故障和问题。
8.了解数据库系统的升级和迁移过程,具备数据库迁移和升级的经验。
9.具备良好的团队合作精神和沟通协调能力,能够与其他岗位紧密配合。
10.具备较强的学习能力和问题解决能力,能够不断学习和应用新的数据库技术。
大数据开发工程师工作职责和岗位要求模板一、岗位职责:1.负责大数据系统的设计和开发,包括数据采集、处理、存储和分析等环节;2.根据业务需求,设计和开发场景化的数据分析和处理模型,并保证性能和稳定性;3.负责数据清洗、挖掘、建模和可视化等工作,并进行相关数据分析和挖掘算法的研究和优化;4.监控和维护大数据系统的运行,并解决相关的技术和性能问题;5.协同团队成员,进行技术方案的讨论和开发工作的整体把控;6.跟踪学习大数据技术的发展动态,积极推动技术创新和团队建设。
二、岗位要求:1.本科及以上学历,计算机相关专业,3年以上大数据开发经验;2. 熟练掌握Hadoop、Spark等大数据处理框架,熟悉分布式计算模型和原理;3. 熟悉常见的大数据存储技术,如HDFS、HBase、Hive等,有实际项目经验;4. 精通至少一种大数据处理工具和语言,如Python、Scala、R等;5.掌握SQL编程和常用数据库,具备良好的数据处理和查询能力;6. 熟练使用Linux系统,熟悉Shell编程和常用命令;7.具备良好的数据分析和挖掘能力,熟悉常用数据挖掘算法,并能进行模型评估和优化;8.具备良好的沟通协调能力和团队合作精神,能够有序推进项目进展;9.对新技术有较强的学习能力和自主研究能力,对相关领域有良好的敏感性。
三、岗位福利:1.提供具有竞争力的薪资待遇,根据个人能力和贡献进行绩效调整;2.向员工提供全面的培训和职业发展机会,鼓励员工在岗位上持续学习和成长;3.提供完善的福利保障,包括五险一金、带薪年假、节假日福利等;4.提供舒适的工作环境和良好的团队氛围,为员工提供良好的工作体验;5.提供晋升机会和职业发展通道,为优秀员工提供广阔的晋升空间。
以上为大数据开发工程师的工作职责和岗位要求模板,具体岗位要求可以根据实际情况进行灵活调整。
希望以上信息对您有所帮助!。
大数据开发工程师岗位的主要职责概述(31篇)大数据开发工程师岗位的主要职责概述(通用31篇)大数据开发工程师岗位的主要职责概述篇1职责:1、负责大数据平台架构的整体设计,承担数据抽取、清洗、转化等数据处理程序开发;2、为业务运营提供技术支持,完成应用系统的搭建、优化、升级工作,保证平台稳定运行;3、编写系统的需求分析、设计、开发和部署文档等。
岗位要求:1、硕士及以上学历,计算机、自动化、通信等相关专业;2、熟练掌握Java语言,并熟悉Python语言,熟悉分布式系统架构,有hadoop,spark系统架构经验;3、熟悉实时计算框架storm,flink,spark streaming其中之一;4、熟练使用SQL,熟悉数据库原理,熟练使用至少一种主流关系型数据库;5、熟悉软件开发流程,能够根据需求编写需求、设计、开发手册等项目过程文档;6、具有良好的沟通能力和主动性,抗压能力强。
大数据开发工程师岗位的主要职责概述篇2职责:1. 对数据进行结构化、标准化处理,对处理流程进行自动化搭建2. 通过ETL/Cube数据建模,构建基于数据仓库的分析工具;3. 参与数据与公司软件产品及第三软件的API对接;4. 搭建与优化,数据采集、处理、可视化流程中所需的框架与模块开发;5. 协同内外部力量完成需求的表达与技术攻关。
任职要求:1. 熟悉数据库的设计和开发如:Oracle/Mysql/MSSQL/Redis 等,有处理大量数据经验的优先;3. 熟练使用ETL工具进行数据抽取,清洗,转换,关联等操作;4. 熟练使用Linu_操作系统,具备编写shell的能力;5. 熟练使用主流的开发框架,掌握以下语言:Java、Python;了解过源码的优先;6. 具有2年以上数据仓库(DW)、商务智能(BI)、大数据等方面的软件或项目开发经验;7. 了解可视化及BI工具者优先;大数据开发工程师岗位的主要职责概述篇3职责:1、规划及建设大数据平台;2、负责大数据存储系统、分布式计算系统、挖掘算法等设计、研发以及维护、优化工作;3、负责分析、挖掘、对抗各种产品安全层面的恶意行为;4、参与项目的系统设计和核心代码开发,指导和培训其他工程师;5、整理和提交技术文档,负责核心功能模块的代码编写和测试工作。
大数据开发工程师的具体职责(精选26篇)大数据开发工程师的具体职责篇1职责:1、在hadoop平台进行hive/hbase/spark开发;2、处理公司大数据平台产品的技术工作,包括存储、处理、分析、挖掘、架构设计、研发工作;3、熟悉设计、构建和优化基于hadoop/Hbase的存储平台架构;4、熟悉整体提升hadoop/Hbase/Storm/Spark集群的高可用性、高性能、高扩展特性;5、部门相关工作。
岗位要求:1、计算机等相关专业大专及以上学历;2、3年以上软件开发经验,精通Java开发,至少2年以上Hadoop相关开发经验;3、熟悉分布式系统、分布式计算系统的工作机制,具有大规模数据平台,高并发大型系统,大数据等架构设计和开发经验;4、熟悉sqoop、Hive、hbase、spark等大数据生态组件;5、精通linux shell和sql脚本;6、有java web开发经验者优先;7、良好的团队精神和沟通能力,很强的逻辑思维能力和学习能力。
大数据开发工程师的具体职责篇2职责:1、大数据的分布式采集与环境搭建和测试;2、大数据存储、处理和分析工作;3、大数据相关产品线的改进和相关核心开发工作;4、其他大数据相关工作。
任职要求:1、本科及以上学历,计算机相关专业;2、2年以上Java开发及大数据相关开发经验,java基础扎实,熟练掌握多线程、集合、缓存、序列化、nio等技术;3、熟悉Linux环境,熟悉Linux shell/python/perl任一脚本;4、熟悉Hadoop、Spark、ZooKeeper等主流的大数据处理架构,并有1年以上Hadoop相关的实际开发、架构及调优经验;5、使用过阿里云;6、熟悉架构;7、具有较好的学习能力、沟通表达能力及团队合作能力。
大数据开发工程师的具体职责篇3职责1. 负责大数据分析需求设计和开发工作,包括数据存储、预处理、查询、统计、实时分析、数据优化及配置等功能;2. 对大数据分析系统存在的问题进行跟踪和定位并及时解决;3. 负责上级交办的其他相关工作。
大数据开发工程师岗位的职责描述(精选17篇)大数据开发工程师岗位的职责描述篇1职责:1、负责异构数据系统和大数据平台的集成与融合;2、负责数据挖掘算法的设计及对海量数据进行挖掘分析;3、负责分布式数据仓库平台、海量数据批处理平台、实时数据处理平台等系统开发;4、参与海量数据处理,业务数据体系的设计、数据统计、分析及数据建模;5、参与数据平台各系统的性能分析与系统优化,不断提高系统运行效率;6、完成领导交办的其他任务。
任职资格:1、计算机及其相关专业,大专及以上学历。
两年以上大数据应用经验;2、具备实时处理框架的设计和开发能力,熟练掌握Storm、Spark streaming等大数据实时处理框架中的一种;3、熟悉Spark 、R、Hadoop、Hbase、Hive、Elastic Search/Solr等相关技术;4、熟悉Scala、熟悉Linux开发环境,能进行shell脚本的编写;5、具有较强的逻辑分析能力,高度的责任心及团队合作精神;6、具有实际大数据项目的成功经验者优先考虑。
大数据开发工程师岗位的职责描述篇2职责:1、参与南方电网软件产品(项目)前/后台服务开发,要求高性能、高可用、高并发;2、独立完成产品模块(项目)核心代码开发、业务代码开发、系统性能调优等工作;3、根据分配任务制定开发计划并按时完成相应模块的设计、开发和单元测试;4、参与产品(项目)相关系统需求分析以及撰写相关系统设计文档;要求:1. 五年左右大数据研发岗位工作经验2、丰富大数据开发经验:熟悉企业大数据常用技术,熟悉Spark、Flume、Hbase、Hadoop、Kafka,ES技术;3、具有大型应用系统开发经验,具有分布式、高并发、高性能等架构经验,具有一定团队管理经验者优先;4、了解J2EE技术平台及主流框架,具有SpingMVC、SpringBoot、Spring cloud、Mybatis、Redis等框架开发经验;5、了解HTML5,CSS3,JavaScript,Ajax,jQuery等Web前端技术,熟悉jQuery、Bootstrap、AngularJS,VUE等主流前端JS框架中的一种;大数据开发工程师岗位的职责描述篇3职责1、负责大数据分析平台的建设,基于历史和业务实时数据构建数据挖掘模型;2、根据需求设计和实现数据分析展示平台;3、负责建立、维护和改进大数据分析流程、规范、方法;4、负责基于大数据的数据分析算法研究,基于数据分析结果优化现有应用并探索新的应用。
大数据开发工程师岗位的工作职责说明(通用27篇)大数据开发工程师岗位的工作职责说明篇1职责:1、负责公司c端产品以及广告数据的平台数据基础建设;2、大数据平台的搭建与维护;3、优化算法提高执行效率;4、数据挖掘相关开发。
职位要求:1. 本科及以上,计算机、软件工程、统计学、数据挖掘、机器学习等相关专业;2. 熟悉JAVA语言及JAVA生态下的开发,了解多线程并发,能独立完成应用开发和部署;3. 3年及以上大数据流程架构经验,熟悉Hbase/Hive/Hadoop/Spark或等主流分布式开发平台,有高性能集群设计和开发经验;4. 能熟练操作Linux,熟练掌握SQL数据库语言HiveSQL/Mysql/Sqlserver;5. 对有广告营销大数据算法/开发经验者优先,有大型数据项目经验优先,有用户行为分析、用户建模、业务建模经验者优先;6. 具有良好的逻辑分析能力、沟通能力和协调能力;大数据开发工程师岗位的工作职责说明篇2职责:1、负责公司大数据基础平台产品开发工作;2、完成产品/项目划分的研发任务,按需求规范进行研发;3、具备良好的需求分析能力、业务建模能力,参与产品和项目相关模块的需求讨论,概要、详细设计;4、具备良好的架构分析能力与设计能力,积极参与前期设计;5、能根据设计方案和计划进行编码实现,在进度和质量上符合方案和计划的要求;6、及时对BUG库中的软件问题进行跟踪修正。
岗位要求:1、三年以上工作经验,一年以上大数据平台架构及ETL相关经验,可独立搭建/运维CDH/Spark整套平台架构;2、精通Python/Java/Scala/SQL/Shell等语言中两种以上,熟悉Spark/Hadoop/Hive/MR/Hbase/ZK/YARN等三种以上开源框架的原理和源码;3、熟悉容器平台开发或者开发优先考虑,有docker、kubernetes相关开发经验更佳;4、学习能力强,适应能力好,有丰富的问题原因定位及运维技术支持经验;5、有市场上成熟的大数据平台产品实际架构/开发经验优先。
大数据开发工程师的职责文本精选
大数据开发工程师需要处理公司大数据平台产品的技术工作,包括存储、处理、分析、挖掘、架构设计、研发工作。
下面是我整理的大数据开发工程师的职责文本精选。
大数据开发工程师的职责文本精选1
职责:
1、负责该领域的业务需求讨论,完成技术方案及数据开发;
2、负责数据仓库的体系建设及落地实现;
3、负责大数据平台各类环境的部署及运维、并参与架构优化、性能优化等工作;
4、负责该领域所属模块的代码开发、调试与维护工作,并进行技术沉淀和文档输出。
招聘要求:
1、计算机、电子通信、自动化等专业,本科及以上学历;
2、五年以上研发经验,其中二年以上大数据开发的相关工作经验;
3、熟练JAVA开发语言;熟悉微服务及Spring框架;
4、熟练熟练Hive、Impala、ES性能调优,关注细节,学习能力强;
5、能配合团队完成该领域的工作,自我管理能力强,能承受工作中的各种压力,具备很好的团队意识
6、熟练主流大数据平台产品部署及运维,如CDH、HDP平台。
7、对机器学习和深度学习等方面有一定的了解;
8、有汽车制造业及相关行业的大数据开发经验优先。
大数据开发工程师的职责文本精选2
职责:
1、负责数据中心和大数据处理平台的搭建
2、在线和离线海量数据分析平台的开发;
3、研究大数据前沿技术,提升系统的运维效率;
4、参与大数据的采集、存储、处理,分析等开发
5、参与数据挖掘算法的设计、对海量数据进行挖掘分析和发掘数据价值及算法学习及实现
【任职要求】:
1、计算机或相关专业本科学历及以上,2年工作经验以上
2、熟悉Java/Scala等至少一门语言,能对分布式常用技术进行合理应用,解决实际架构问题
3、熟练使用hadoop,hive,HBase,YARN,kafka,spark,Storm,Flume 等大数据开发组件
4、熟悉整个大数据的完整处理流程,包括数据的采集、清洗、存储、分析和可视化及报表开发;
5、熟悉分布式系统概念、架构,有大规模分布式系统设计、实现、部署等经验;
6. 具有优秀的学习能力、独立分析和解决问题能力,良好的团队合作精神。
7. 有BI开发经验的优化考虑。
大数据开发工程师的职责文本精选3
职责:
1.结合项目或产品涉及的具体业务场景,对数据进行清洗、计算与加工;
2.思路清晰,可快速响应数据处理的需求,评估并给出合理的解决方案,并采用合理的方式处理需求;
3.积极主动,能够与团队成员进行有效沟通,并完成数据处理结果的核对与对接;
4.完成上级交办的工作或任务。
岗位要求
1.计算机相关专业大专以上学历;
2.2年以上大数据产品或项目开发经验,精通Hadoop生态圈,熟练使用Spark,HBase、Hive、Kafka、Redis等;
3.精通SQL,熟练使用HSQL实现复杂数据处理逻辑,并具备数据处理调优的能力;
4.熟悉Linux开发环境,熟悉Linux的shell命令。
5.具有良好的逻辑思维能力和严谨的程序开发思想,具备独立问题排查与处理的能力;
6.良好的团队精神和合作意识,强烈的责任心,对工作有激情,良好的沟通能力,能吃苦耐劳;
7.有大数据项目或产品背景者优先;
8.有使用Spark SQL进行数据处理,并具有Spark SQL优化经验者
优先。
9.有Python或者Shell脚本开发经验优先
大数据开发工程师的职责文本精选4
职责:
1、负责数据采集、数据存储、数据查询、数据计算等基础平台的设计和开发工作;
2、利用Hadoop、Spark、Flink等技术进行离线和实时数据开发 ;
3、负责大数据平台的规划升级、平台维护和优化 ;
4、和其他部门或团队沟通、资源协调并落实工作。
任职要求
1、本科及以上学历;
2、3年以上大型大数据平台建设实施经验 ;
3、掌握常用大数据组件hadoop、Hive、spark、Flink、hbase、elasticsearch等原理、使用和调优 ;
4、具备较强技术功底,精通Java、Scala、Python等至少一种开发语言,能根据需求给出技术架构 ;
5、有数据仓库、元数据管理和治理的开发经验优先 ;
6、善于沟通,思维活跃、责任感强、工作积极主动,有良好的团队协作意识。
大数据开发工程师的职责文本精选5
职责:
1、负责完成业务和产品的对接,支持业务需求研发;
2、负责完成产品的迭代升级以及底层架构的升级研发;
3、完成团队安排的其他相关日常工作任职要求;
4、负责产品的实时业务和离线业务的研发;
5、支持开源大数据技术在数据系统中的使用,修复、优化增强大数据技术;
岗位要求:
1、具有分布式系统架构开发能力,熟练使用storm、spark hbase 者优先。
2、能够使用实时计算平台,进行实时业务数据的研发。
3、能够基于已有平台进行离线业务的开发。
4、有大数据应用产品研发经验,具有数据决策产品研发经验者优先。