大数据架构师岗位职责(15篇)

大数据架构师岗位职责篇一

1、负责大数据基础平台的整体规划和架构设计，参与需求分析、技术决策以及详细设计;

2、为现有大数据集群hadoop、hive平台提供性能调优、架构优化重组，解决系统中的关键问题和技术难题;

3、把握基础业务复杂系统的设计，确保系统的架构质量，编写核心部分代码;

4、持续挑战新的技术方向，攻克大数据量，高并发，稳定性等各种技术难点。

任职资格:

1、计算机或相关专业本科及以上学历;

2、5年以上hadoop的应用开发经验，5年以上数据仓库开发实践经验，至少一个企业级数据仓库项目开发经验或者大数据处理项目经验;

3、良好的编程开发能力，精通php及其他开发语言;

4、熟悉mysql等数据库经验，具备优秀的sql编写、调优能力;

5、熟练掌握linux常规命令与工具，精通shell, perl, python等脚本语言至少一种;

6、软件基础理论知识扎实，具有良好的数据结构、算法功底;

7、对新技术敏感，学习能力强，乐于接受挑战，具有良好的团队合作精神;

大数据架构师岗位职责篇二

职责：

1、负责企业大数据平台的基础建设、管理及制定拓展规划;

2、负责大数据平台相关自动化服务工具的设计、开发;

3、参与hadoop、hbase、spark等核心平台组件的开发、优化;

4、对平台特殊场景化的数据应用制定相关实践方案;

5、大数据团队的搭建。

任职资格:

1、统招本科以上学历，计算机等相关专业，5年以上工作经验;

2、具有hadoop等大规模集群管理经验、海量(pb)数据处理经验;

3、精通hadoop、hive、hbase等离线平台相关组件的原理机制;

4、了解或熟悉storm/spark/redis/kafka/mongodb等分布式系统;

5、熟悉高并发、分布式开发等相关知识，具有后端服务优化相关经验;

6、熟悉爬虫常用框架以及反爬技术;

7、具有良好的沟通能力、分析问题与攻关问题的能力;

8、有责任心，工作积极，对新领域新技术有热情。

大数据架构师岗位职责篇三

职责：

负责大数据平台架构的规划和设计，主导系统的架构设计和核心模块开发，确保项目质量和关键性能指标达成;

负责大数据平台技术框架的选型与技术难点攻关,指导开发大数据平台的开发，保证大数据产品的上线运行;

负责深入理解业务需求，对业务建模，设计系统架构，满足业务需求;

负责协助策略和算法工作,保障数据挖掘建模和工程化;

负责根据业务需求整合优化数据架构，保证产品的可靠性、稳定性;

负责指导开发人员完成数据模型规划建设、分析模型构建及分析呈现;

负责研发技术发展方向，新技术领域的探索，将新技术应用到公司大数据平台，提升公司效能

任职要求：

本科及以上学历，拥有5年以上大数据平台产品或分布式系统设计经验,6年以上的开发经验;

精通hadoop，熟悉大数据生态技术，如storm、spark、scala、flume、kafka、zookeeper、yarn、sqoop、cdh、solr 、kylin、impala、hive、hbase、kerberos、sentry等，有大规模集群架构、开发及运维经验;

熟练掌握java/scala语言,实现面向对象开发思想ooa,ood,oop;

熟悉linux操作系统,熟练掌握脚本言语shell/perl/python等编码语言;

熟练掌握数据仓库设计，开发工作。能够根据业务设计并开发数据仓。

具备源码级问题解决和集群优化改造能力者优先;

能快速的学习新的开源框架和知识体系，并应用到现有架构体系中;

逻辑清晰，快速的学习能力，良好的沟通能力、团队协调能力。

具备良好的团队合作精神，较强的沟通交流能力，具备良好的技术领导能力;

具备良好的文档撰写能力和技术团队管理能力

大数据架构师岗位职责篇四

职责：

1、数据分析软件平台架构搭建

2、负责深度学习核心框架或高性能后台服务系统的架构设计工作，包括系统总体规划、架构设计、系统分析、软件实现、性能优化;

3、指导开发人员开发，并解决系统出现的问题，理解物业需求;

4、制定开发计划和控制开发进度，负责指导研发团队开展设计工作;

任职要求：

1、硕士以上，计算机或先关专业;

2、5年左右软件开发经验，含3年以上系统分析、设计经验，有大型软件项目大型软件项目;有中大型互联网企业数据库架构设计及管理经验，

3、 具备良好的组件级建模能力，熟悉http、tcp等协议

4、熟练使用uml进行软件架构设计，至少精通ea，rational， visio等一种设计工具.

5、精通至少一种编程语言，熟悉 linux 相关技术，能独立在上面进行开发、测试和部署

6、深入理解数据库、数据仓库、大数据、分布式体系架构和关键技术

大数据架构师岗位职责篇五

职责：

1. 负责大数据基础平台、海量数据存储/处理分布式平台、数据分析系统架构设计和研发;

2. 负责实时计算平台基础架构设计、部署、监控、优化升级;

3. 制定项目/数据仓库设计及实现规范，指导设计研发和部署;

4. 协助策略和算法团队工作，保障数据挖掘建模和工程化;

5. 深入研究大数据相关技术和产品，跟进业界先进技术;

任职要求：

1. 全日制本科及以上学历，5年以上软件和分布式系统研发经验，3年以上大数据系统架构经验;

2. 精通hadoop/hbase/spark/storm/redis技术及其生态圈;

3. 具备良好的系统分析能力、故障诊断能力;

4 有大数据策略、算法、可视化经验优先。

大数据架构师岗位职责篇六

职责：

1.负责公司大数据底层框架的整体架构设计，结合公司实际业务情况进行技术选型及大数据战略规划;

2.负责统一数据平台项目的整体评估、设计、架构及关键模块的开发，不断提升系统的稳定性和效率;

3.负责架构优化及系统关键模块的设计开发，协助团队解决开发过程中的技术难题;

4.建立良好的公司内外的业界技术影响力;有效辅导团队，提升数据研发能力;

任职要求：

1.从事大数据项目相关开发和设计2年以上经验;有作为技术负责人系统化解决问题的成功案例;有海量数据实践经验优先;

2.拥有一定的算法和数据结构基础;有很强的数据设计抽象能力，善于从复杂的数据问题中找到关键路径;

3.熟悉目前正在发展的大数据分布式平台前沿技术的应用;包括但不仅仅限于：hadoop、storm、spark、等;

4. 良好的逻辑思维能力，良好的业务解读能力，懂电力或通信业务优先;

5.具有钻研精神，乐于接受挑战;

大数据架构师岗位职责篇七

职责：

1、负责大数据平台的技术选型，基于spark、hadoop大数据平台建设和开发;

2、完成包括数据模型设计、数据采集、数据存储等方面的大数据系统架构的设计和数据层架构设计;

3、构建数据中台，为多种行业应用提供主数据(画像标签/关系图谱)、数据模型、人工智能业务算法及数据服务。

4、对海量数据处理的业务需求进行评估和方案设计、拆分任务并指导工程师完成开发;

5、带领大数据技术团队提供并实现大数据平台上各项数据分析和数据可视化的架构设计，支撑解决方案实施。

任职要求：

1、本科及以上学历，具有5年及以上大数据架构设计和开发经验;2年及以上带领团队经验;沟通能力强。在大型互联网企业从事大数据架构设计者优先考虑;有分布式大型商业软件系统设计经验、主导过大型商业软件的架构设计并取得过市场商业成功者优先考虑;

2、熟悉整个大数据的完整处理流程，包括数据的采集、清洗、预处理、存储、分析挖据、机器学习和数据可视化;

3、精通oracle/mysql/postgresql/greenplum/mongodb等其中至少一种主流数据库的使用，并能进行性能调优;

4、具备优秀的团队意识和沟通能力，学习能力和主动性强，具有钻研精神，充满激情，乐于接受挑战。

大数据架构师岗位职责篇八

职责：

1、负责规划科技大数据平台及科技数据入库自动化的方案设计;

2、负责大数据平台的开发和维护，以及对外服务接口的开发;

3、负责大数据平台的优化和改进工作。

任职要求

1、计算机相关专业本科及以上学历，5年以上开发经验，其中3年以上为互联网、大数据相关的开发经验;

2、熟知hadoop生态圈体系，精通hadoop/spark/storm/kafka中的一项或几项，深刻理解mapreduce的运行原理和机制，有mpi经验者尚佳;

3、熟悉elasticsearch、redis、hbased等相关数据库的构建和操作，尤其是数据库集群的构建和操作，熟悉neo4j者尚佳;

4、具有机器学习相关项目经验者优先。

大数据架构师岗位职责篇九

职责：

1)负责大数据平台系统架构设计、核心开发工作(hadoop