大数据架构师的基本职责

大数据架构师需要参与规划从数据源到数据应用的全过程,参与相关产品的决策。以下是我为你精心安排的大数据架构师的基本职责。

大数据架构师的基本职责1

职责:

1.负责整个大数据平台架构的设计和搭建;

2.负责搭建大数据平台数据交换和任务调度的通用平台;

3.制定开发、测试、实施和维护的标准和规范,指导和培训工程师,不断提升团队能力。

4.参与系统需求分析、架构设计、技术选择、应用设计开发、测试部署,并负责核心代码的编写。

5.继续挑战新的技术方向,攻克大数据量、高并发、高可用、可扩展等技术难关。

要求:

65438以上+0.3年大数据架构经验,数据仓库、数据挖掘、机器学习项目经验丰富。

2.大规模数据处理的架构和设计的实践经验。

3.精通Spark、MR、HDFS、Yarn、Hbase、Hive、MongoDB,熟悉Kafka、Redis、Storm、Mahout、Flume、ElasticSearch、Graph DB(二次或其他),有丰富的大型数据平台工程经验。

4.深刻理解大数据处理的相关技术和实现方法(流计算、分布式计算、分布式文件系统、分布式存储等。).

5.熟悉主数据、元数据、数据质量等企业数据管理相关的制度和方法,熟悉Linux/Unix平台上的开发环境。

6.本科以上学历,计算机软件或相关专业,有丰富的java开发经验和互联网背景者优先。

7.较强的问题分析和处理能力,动手能力优秀,热衷技术,精益求精。

大数据架构师的基本职责2

职责:

1.深刻理解政府行业的商业模式,构建政府行业的数据模型,制定公司大数据技术的发展路线;

2.对接业务研究和技术部门,主动收集和转化需求,组织数据中心业务开发,分析和设计数据相关产品需求;

3.构建数据仓库,开发数据库管理系统,收集、提取和处理业务积累的海量数据,进行数据分析和挖掘;

4.根据公司战略和发展需求,规划数据中心的重点工作和任务;实施部门人事和事务管理,开展跨部门、跨地区合作,协助对外交流与合作。

工作要求:

1以上。5年相关工作经验,有团队管理和项目管理经验者优先;

2.了解政府运行机制,掌握金融行业知识,有电子政务行业经验者优先;

3.熟练使用Java或Python,精通SQL、Oracle等数据库查询语言,有机器学习模型和算法经验者优先;

4.具备数据中心产品规划的整体思维,有大数据处理、分析、挖掘经验者优先;

5.逻辑思维严谨,能够对业务进行抽象、分解和规范,口头和书面表达能力优秀;

6.有很强的大局意识和良好的团队合作意识,富有领导能力,有优秀的人际交往和沟通能力。

大数据架构师的基本职责3

职责:

1,从事电信行业大数据项目相关业务研究、产品标准建设、核心模型设计与优化、系统测试等相关工作。

2.与数据专业委员会一起研究数据建模方案和建模工具,负责产品线的数据架构和数据模型设计。

3.参与数据库间数据转换方法的研究,参与项目中的数据迁移,收集项目中的数据迁移经验,优化产品的数据模型。

4.负责部门团队数据模型基础理论的培训,建立数据模型团队。

工作要求:

1,统招本科学历,3年以上主流数据(DB2、Oracle、SQLServer、Mysql等)ETL设计开发经验。),有设计大型数据仓库的逻辑模型和物理模型的经验,精通SQL,有良好的SQL性能调优经验;

2.有使用Python、R等数学建模工具的经验,有一定的数据处理和建模经验,能输出相应的模型分析结果、模型对比、模型效率、理论以及模型的判断方法,并能充分讲解和解释;

3.熟悉统计学的基本原理,做过实际的数据建模项目;

4.有分布式数据仓库建设经验,有电信行业数据仓库建设经验者优先;

大数据架构师的基本职责4

职责:

1,负责大数据平台的架构设计和核心代码开发;根据项目要求编写相关技术文件;

2.负责大数据平台的架构审核、代码审核、上线审核;参与数据应用需求、设计、审计和评审;

3.负责核心模块研发、大数据平台建设,并完成系统调试、集成和实施;

4.负责建立和维护大数据平台的技术标准和规范,指导开发者编写代码;

要求:

1,计算机相关专业本科及以上学历;

2.精通离线和实时数据处理流程,掌握hive、impala、spark-sql等离线数据处理框架,掌握Storm、SparkStreaming等实时数据处理常用技术工具;

3.熟悉大数据技术生态系统,精通大数据技术架构,有搭建大数据平台的经验;

4.掌握常用的数据流访问工具,包括Flume,kafka等。

5.掌握基本的Linux操作系统和一些脚本语言编程(如Shell等。);

6、掌握一门或多门实时处理语言,如JAVA、SCALA、PYTHON等。,有SCALA经验者优先;

7.有处理实际大规模数据(TB级以上)经验者优先;

大数据架构师的基本职责5

职责:

1.负责公司大数据处理框架的R&D和设计,梳理可实现方案和技术规范;

2.开发和完善公司的大数据平台;参与公司线下和实时大数据处理系统的设计、开发和测试以及多个业务模块的自动集成;

3.负责业务平台数据统计分析模块的设计和规划;

4.负责产品开发过程中的数据和存储设计;

5.领导和培训团队完成组织分解的目标;

要求:

1,本科及以上学历,计算机与软件工程专业,至少8年工作经验,5年大数据开发经验;

2.熟悉Java,Hadoop,HDFS,Hive,HBase,Spark,Storm,Flume等相关技术的基础架构。

3.熟悉数据仓库理论、数据算法和分布式计算技术,有设计大数据整体系统架构的经验;

4.熟悉Linux系统,熟练使用shell/perl/python脚本处理问题;

5.张量流和机器学习(svm随机深林贝叶斯等知识。)优先;

6.能够组织项目开发团队协同工作,包括团队沟通、规划、开发环境管理等。