大数据架构师的基本职责
大数据架构师的基本职责1
职责:
1.负责整个大数据平台架构的设计和搭建;
2.负责搭建大数据平台数据交换和任务调度的通用平台;
3.制定开发、测试、实施和维护的标准和规范,指导和培训工程师,不断提升团队能力。
4.参与系统需求分析、架构设计、技术选择、应用设计开发、测试部署,并负责核心代码的编写。
5.继续挑战新的技术方向,攻克大数据量、高并发、高可用、可扩展等技术难关。
要求:
65438以上+0.3年大数据架构经验,数据仓库、数据挖掘、机器学习项目经验丰富。
2.大规模数据处理的架构和设计的实践经验。
3.精通Spark、MR、HDFS、Yarn、Hbase、Hive、MongoDB,熟悉Kafka、Redis、Storm、Mahout、Flume、ElasticSearch、Graph DB(二次或其他),有丰富的大型数据平台工程经验。
4.深刻理解大数据处理的相关技术和实现方法(流计算、分布式计算、分布式文件系统、分布式存储等。).
5.熟悉主数据、元数据、数据质量等企业数据管理相关的制度和方法,熟悉Linux/Unix平台上的开发环境。
6.本科以上学历,计算机软件或相关专业,有丰富的java开发经验和互联网背景者优先。
7.较强的问题分析和处理能力,动手能力优秀,热衷技术,精益求精。
大数据架构师的基本职责2
职责:
1.深刻理解政府行业的商业模式,构建政府行业的数据模型,制定公司大数据技术的发展路线;
2.对接业务研究和技术部门,主动收集和转化需求,组织数据中心业务开发,分析和设计数据相关产品需求;
3.构建数据仓库,开发数据库管理系统,收集、提取和处理业务积累的海量数据,进行数据分析和挖掘;
4.根据公司战略和发展需求,规划数据中心的重点工作和任务;实施部门人事和事务管理,开展跨部门、跨地区合作,协助对外交流与合作。
工作要求:
1以上。5年相关工作经验,有团队管理和项目管理经验者优先;
2.了解政府运行机制,掌握金融行业知识,有电子政务行业经验者优先;
3.熟练使用Java或Python,精通SQL、Oracle等数据库查询语言,有机器学习模型和算法经验者优先;
4.具备数据中心产品规划的整体思维,有大数据处理、分析、挖掘经验者优先;
5.逻辑思维严谨,能够对业务进行抽象、分解和规范,口头和书面表达能力优秀;
6.有很强的大局意识和良好的团队合作意识,富有领导能力,有优秀的人际交往和沟通能力。
大数据架构师的基本职责3
职责:
1,从事电信行业大数据项目相关业务研究、产品标准建设、核心模型设计与优化、系统测试等相关工作。
2.与数据专业委员会一起研究数据建模方案和建模工具,负责产品线的数据架构和数据模型设计。
3.参与数据库间数据转换方法的研究,参与项目中的数据迁移,收集项目中的数据迁移经验,优化产品的数据模型。
4.负责部门团队数据模型基础理论的培训,建立数据模型团队。
工作要求:
1,统招本科学历,3年以上主流数据(DB2、Oracle、SQLServer、Mysql等)ETL设计开发经验。),有设计大型数据仓库的逻辑模型和物理模型的经验,精通SQL,有良好的SQL性能调优经验;
2.有使用Python、R等数学建模工具的经验,有一定的数据处理和建模经验,能输出相应的模型分析结果、模型对比、模型效率、理论以及模型的判断方法,并能充分讲解和解释;
3.熟悉统计学的基本原理,做过实际的数据建模项目;
4.有分布式数据仓库建设经验,有电信行业数据仓库建设经验者优先;
大数据架构师的基本职责4
职责:
1,负责大数据平台的架构设计和核心代码开发;根据项目要求编写相关技术文件;
2.负责大数据平台的架构审核、代码审核、上线审核;参与数据应用需求、设计、审计和评审;
3.负责核心模块研发、大数据平台建设,并完成系统调试、集成和实施;
4.负责建立和维护大数据平台的技术标准和规范,指导开发者编写代码;
要求:
1,计算机相关专业本科及以上学历;
2.精通离线和实时数据处理流程,掌握hive、impala、spark-sql等离线数据处理框架,掌握Storm、SparkStreaming等实时数据处理常用技术工具;
3.熟悉大数据技术生态系统,精通大数据技术架构,有搭建大数据平台的经验;
4.掌握常用的数据流访问工具,包括Flume,kafka等。
5.掌握基本的Linux操作系统和一些脚本语言编程(如Shell等。);
6、掌握一门或多门实时处理语言,如JAVA、SCALA、PYTHON等。,有SCALA经验者优先;
7.有处理实际大规模数据(TB级以上)经验者优先;
大数据架构师的基本职责5
职责:
1.负责公司大数据处理框架的R&D和设计,梳理可实现方案和技术规范;
2.开发和完善公司的大数据平台;参与公司线下和实时大数据处理系统的设计、开发和测试以及多个业务模块的自动集成;
3.负责业务平台数据统计分析模块的设计和规划;
4.负责产品开发过程中的数据和存储设计;
5.领导和培训团队完成组织分解的目标;
要求:
1,本科及以上学历,计算机与软件工程专业,至少8年工作经验,5年大数据开发经验;
2.熟悉Java,Hadoop,HDFS,Hive,HBase,Spark,Storm,Flume等相关技术的基础架构。
3.熟悉数据仓库理论、数据算法和分布式计算技术,有设计大数据整体系统架构的经验;
4.熟悉Linux系统,熟练使用shell/perl/python脚本处理问题;
5.张量流和机器学习(svm随机深林贝叶斯等知识。)优先;
6.能够组织项目开发团队协同工作,包括团队沟通、规划、开发环境管理等。