當前位置:萬佳範文網 >

文祕 >崗位職責 >

大數據架構師的崗位職責(精選19篇)

大數據架構師的崗位職責(精選19篇)

大數據架構師的崗位職責 篇1

職責:

大數據架構師的崗位職責(精選19篇)

1、負責公司大數據產品的架構設計,包含數據收集、數據存儲、數據應用,並完成相關架構設計文檔的撰寫;

2、參與規劃從數據源到數據應用的整體流程,並參與相關產品的決策;

3、負責解決核心技術問題,對技術方案進行決策;

4、負責大數據研發團隊建設、人才梯隊培養和技術團隊管理;

5、積極瞭解業界發展,研究與跟蹤大數據新技術發展方向。

任職要求:

1、精通GoldenGate For BigData相關理論,具備大型數據利用的生產實戰經驗;

2、精通數據驅動的理論,設計並生產上線相關數據驅動的產品;

3、精通常用消息中間件的使用,例如kafka/RocketMQ/Apache Pulsar,有解讀相關源碼者優先;

4、掌握hadoop、spark生態體系相關產品的使用,掌握MapReduce編程或Spark編程;

5、瞭解傳統數據倉庫理論及相關ETL工具,例如kettle/datastage;

6、熟悉Oracle、Mongodb、Mysql數據庫的使用;

7、紮實的Java語言基礎,熟悉Java開發工具和調試工具的使用;

8、良好的團隊協作精神,有能力對團隊在軟件設計、實現和測試方面進行指導;

9、良好的邏輯分析能力和溝通能力,執行力強、對待工作認真嚴謹、責任心強、具備出色的學習能力和團隊合作精神,有一定的推動能力;

10、計算機科學、信息技術或相關領域本科以上學歷,具有5年以上數據平台項目開發經驗,3年以上的架構設計經驗,具有大數據平台應用大型項目架構設計經驗優先;

大數據架構師的崗位職責 篇2

職責:

1.負責公司大數據底層框架的整體架構設計,結合公司實際業務情況進行技術選型及大數據戰略規劃;

2.負責統一數據平台項目的整體評估、設計、架構及關鍵模塊的開發,不斷提升系統的穩定性和效率;

3.負責架構優化及系統關鍵模塊的設計開發,協助團隊解決開發過程中的技術難題;

4.建立良好的公司內外的業界技術影響力;有效輔導團隊,提升數據研發能力;

任職要求:

1.從事大數據項目相關開發和設計2年以上經驗;有作為技術負責人系統化解決問題的成功案例;有海量數據實踐經驗優先;

2.擁有一定的算法和數據結構基礎;有很強的數據設計抽象能力,善於從複雜的數據問題中找到關鍵路徑;

3.熟悉目前正在發展的大數據分佈式平台前沿技術的應用;包括但不僅僅限於:hadoop、storm、spark、等;

4. 良好的邏輯思維能力,良好的業務解讀能力,懂電力或通信業務優先;

5.具有鑽研精神,樂於接受挑戰;

大數據架構師的崗位職責 篇3

職責:

1、負責大數據開發團隊建設;

2、負責行業大數據產品架構設計與研發;

3、負責帶領團隊進行行業大數據產品關鍵技術攻關。

任職要求:

1、有三年以上大數據應用、開發經驗;具備海量數據加工處理(ETL)相關經驗,對數據挖掘及機器學習有較為深刻的理解;

2、熟悉Hadoop相關技術,對HDFS、MapReduce、Hive、HBase有一定的使用和開發經驗;

3、熟悉Linux,熟練使用Shell或Python,進行腳本編寫;

4、對數據結構和數據統計分析算法有較為深刻理解;

5、掌握至少一種主流關係數據庫開發技術:Oracle、SQL Server、MySQL等;

6、掌握實時流計算技術,有Spark、Storm開發經驗者優先;

7、需要具備2年以上研發團隊管理經驗。

大數據架構師的崗位職責 篇4

職責:

1)負責公司軟件產品整體架構的設計和關鍵功能實現

2)負責公司架構長期看護以及優化;

3)負責軟件部門各模組間的協調配合;

4)提高鞏固軟件代碼質量;

5)負責大數據流式框架的設計、優化及部署;

6)規劃研發部門員工的技術發展路線並提供必要的幫助和指導

任職資格:

1)本科及以上學歷,計算機相關專業,5年以上工作經驗;

2)頻繁換工作,比如一年一個公司,請繞路;

3)3年以上產品架構經驗,主導過產品的成功上線;

4)對底層設備通訊協議,B/S系統,手機APP開發等都有一定的瞭解;

5)對各種主流語言C#JavaPathon有一定的瞭解

5)精通各種大數據架構,並深入研究過其中一種,有stormkafka等流式實時處理經驗為佳

6)能夠承擔較強的工作壓力,有良好的自我驅動能力和責任感;

7)具備優秀的邏輯思維能力、表達能力、溝通協調能力。

大數據架構師的崗位職責 篇5

職責:

1、搭建基於Hadoop/Spark的數據挖掘體系和大數據分析系統架構;

2、研究大數據領域前沿數據挖掘技術,並引入相應技術在數據中心的使用;

3、進行大數據系統框架設計、模型算法開發;

4、負責大型數據挖掘項目方案制定、項目實施落地及優化等 ;

5、開展數據爬取、聚類分析、輿情分析、魚骨圖分析、定價策略等領域數據挖掘工作;

任職資格:

1、本科以上學歷(持有學士學位)(985,211優先),計算機相關專業,五年工作經驗;

2、二年以上數據挖掘項目經驗,完整參與過數據挖掘大數據平台的架構開發過程,具備互聯網行業背景優先;

3、精通分佈式計算框架(hadoop、spark、Storm等)及相關經驗,熟練掌握Hive/SQL,Python,熟悉Python、R相關數值科學計算庫(NumPy,SciPy等);

4、瞭解傳統的BI/DW 理論,能結合傳統BI實踐設計大數據平台;

5、熟悉常用機器學習算法(如分類、迴歸、聚類、關聯規則等)及其原理,具備應用場景經驗,如用户畫像、商品關聯度分析、輿情分析;

6、熟悉主數據、元數據、數據質量、和數據建模等數據治理相關的體系和方法;

7、具備較強的邏輯思維能力、數據敏感度,擅於利用數據發現問題及解決問題;

大數據架構師的崗位職責 篇6

職責:

1、負責大數據平台的架構設計、核心代碼開發等任務;根據項目要求編寫相關技術文檔;

2、負責大數據平台的架構評審,代碼評審,上線評審;參與數據應用需求、設計、審核和評審;

3、負責核心模塊研發,負責大數據平台的搭建,完成系統調試、集成與實施;

4、負責建立和維護大數據平台技術標準規範,指導開發人員編寫代碼;

任職要求:

1、本科及以上計算機相關專業畢業;

2、精通離線和實時數據處理流程,掌握離線數據處理框架hive、impala、spark-sql等,掌握實時數據處理常用技術工具,包括Storm、SparkStreaming等;

3、熟悉大數據技術生態圈,精通大數據技術架構,有大數據平台構建經驗;

4、掌握常見數據流接入工具,包括Flume、kafka等;

5、熟練掌握基本的Linux操作系統和某種腳本語言編程(如Shell等);

6、掌握一種或以上實時處理語言,如JAVA、SCALA、PYTHON等,有SCALA經驗者優先;

7、有實際大規模數據(TB級以上)處理經驗優先;

大數據架構師的崗位職責 篇7

職責:

負責公司大數據產品架構的設計與實現;

配合大數據產品經理完成產品的快速研發與交付;

負責大數據產品架構的持續優化設計;

負責大數據產品核心組件設計;

負責大數據相關數據架構規劃、數據建模、數據庫設計以及大數據產品研發工作;

為應用開發團隊提供技術支撐。

任職要求:

本科及以上學歷,3年以上的大數據開發經驗、

2年以上大數據架構設計經驗;

豐富的JAVA研發經驗,精通JAVA,熟悉Python Scala等編程語言;具備深厚的分佈式系統或數據庫系統的理論基礎,熟悉分佈式計算系統的工作機制,具有分佈式文件系統、分佈式數據庫系統、集羣存儲系統等架構設計經驗;

熟悉整個大數據的完整處理流程(數據的採集、清洗、預處理、存儲、分析挖掘、機器學習和數據可視化);

精通各種大數據相關技術體系:Hadoop、Spark、Storm、ElasticSearch、Kafka;

有數據挖掘、機器學習相關應用或研究背景;

溝通能力較好,積極主動意識較強,責任心較強。

大數據架構師的崗位職責 篇8

職責:

1. 深刻理解政府行業業務模式,構建政府行業的數據模型,制定公司大數據技術發展路線;

2. 對接業務研究和技術部門,主動蒐集和轉化需求,組織數據中心業務開發,進行數據相關產品需求分析和設計;

3. 搭建數據倉庫,研發數據庫管理系統,蒐集、提取、處理業務積累的海量數據,開展數據分析和挖掘;

4. 根據公司戰略和發展需要,規劃數據中心重點工作和任務;落實部門人員、事務管理,開展跨部門、跨地區協作,協助對外交流與合作。

職位要求:

1. 5年以上相關工作經驗,有團隊管理和項目管理經驗者優先;

2.瞭解政府運作機制,掌握財政行業知識,有電子政務行業經驗者優先;

3. 熟練掌握使用Java或Python,精通數據庫查詢語言如SQL,Oracle等,在機器學習模型和算法方向有應用經驗者優先;

4. 具備數據中心產品策劃整體思維,有大數據處理、分析、挖掘經驗者優先;

5. 邏輯思維嚴密,具備業務抽象、分解和標準化的能力,口頭和書面表達優秀;

6. 有較強的大局意識和良好的團隊合作意識,富有領導力,具備優秀的人際交往和溝通能力。

大數據架構師的崗位職責 篇9

職責:

1、負責大數據項目技術架構評估與設計;

2、負責關鍵功能的開發,技術難題的解決,以及輸出代碼的關鍵把控;

3、負責對使用關鍵技術的預研和選型,完成PoC;

4、指導工程師完成開發工作,並能分享技術經驗。

任職要求:

1、3年以上相關工作經驗,其中具有1年以上架構設計經驗

2、熟悉商業智能系統相關技術,如 ETL、數據倉庫、OLAP開發;

3、精通設計模式,熟悉面向服務架構(SOA)以及其它常用軟件架構思想,有SOA方案設計、開發實施的實際經驗,要具備實際的服務規劃、服務粒度劃分經驗;並且要善於設計可重用組件和可定製化產品。

4、相關技術棧:Java /Scala/Flume/Hive/Kafka/HBase/ Spark/Storm/Redis;

5、有紮實的計算機基礎,熟悉Java等編程語言;

大數據架構師的崗位職責 篇10

職責:

1、負責面向政府信領域的企業(不限於)大數據平台、大數據應用等系統的架構設計、技術規劃、技術選型

2、跟進業界大數據技術發展動態,匹配行業應用訴求,制定大數據策略,提前識別關鍵技術並完成技術驗證;

3、支撐售前完成項目解決方案技術架構的設計及重要客户的交流;

4、負責指導研發完成大數據產品的開發

5、帶領團隊進行產品核心技術的創新和積累

崗位要求:

1、熟悉BI和大數據領域的解決方案,具備該領域全面的技術積累,包括報表平台,OLAP引擎和DB,ETL,數據倉庫建模和設計,海量分佈式數據處理分析架構;

2、在大數據處理和分析領域具有3年或者以上的技術規劃、架構設計經驗,並有成功的項目實踐;

3、4年以上Hadoop實戰經驗,熟悉Hadoop底層文件系統及分佈式計算框架,具備傳統數據倉庫、MPP、Hadoop等混搭平台架構的設計能力和數據建模能力,對大規模數據並行計算、傳輸、處理等有豐富的經驗;

4、有實際應用storm、spark、flume、kafka等項目經驗優先;

5、卓越的技術領導力,善於溝通、發現和解決產品需求階段、開發階段和測試階段的問題,並能提供合理解決方案,有大中型互聯網企業工作背景優先。

大數據架構師的崗位職責 篇11

職責:

1. 負責大數據平台的基礎技術規劃,編制相關規範文檔。

2. 負責大數據平台的數據採集,處理,存儲以及挖掘分析的架構實現。

3. 負責大數據平台的實際規劃建設,包括環境和框架的規劃搭建以及部分核心編碼工作。

4. 負責大數據相關技術發展方向的預研。

5. 參與業務需求調研,根據需求及行業特點設計大數據解決方案並跟進具體實施項目。

6. 制定大數據平台中數據質量,業務質量監控及管理辦法

崗位要求:

1. 全日制本科及以上學歷,5年以上工作經驗,4年及以上大數據架構設計經驗,熟悉大數據解決方案,包括Hadoop平台、Spark、storm、機器學習、深度學習等大數據解決方案。

2. 深刻理解大數據處理(流計算、分佈式計算、分佈式文件系統、分佈式存儲等相關技術)實現方法。有架構和設計實踐經驗。

3. 精通大型數據庫Oracle、SqlServer等的開發。

4. 精通java,Python中的一種或多種語言。

5. 熟悉容器、虛擬化、微服務框架等相關技術。

6. 對數據敏感,有嚴謹的工作思路,良好的溝通能力和團隊合作精神。

7. 熟悉R,Python,SAS、SPSS等數據挖掘經驗者優先。

8. 高寬展性,高性能,和分佈式系統的實踐及運維經驗者優先。

9. 有大型數據倉庫實施、大數據平台數據開發經驗,熟悉運營商業務者優先。

大數據架構師的崗位職責 篇12

職責:

1、數據分析軟件平台架構搭建

2、負責深度學習核心框架或高性能後台服務系統的架構設計工作,包括系統總體規劃、架構設計、系統分析、軟件實現、性能優化;

3、指導開發人員開發,並解決系統出現的問題,理解物業需求;

4、制定開發計劃和控制開發進度,負責指導研發團隊開展設計工作;

任職要求:

1、碩士以上,計算機或先關專業;

2、5年左右軟件開發經驗,含3年以上系統分析、設計經驗,有大型軟件項目大型軟件項目;有中大型互聯網企業數據庫架構設計及管理經驗,

3、 具備良好的組件級建模能力,熟悉HTTP、TCP等協議

4、熟練使用UML進行軟件架構設計,至少精通EA,RATIONAL, VISIO等一種設計工具.

5、精通至少一種編程語言,熟悉 Linux 相關技術,能獨立在上面進行開發、測試和部署

6、深入理解數據庫、數據倉庫、大數據、分佈式體系架構和關鍵技術

大數據架構師的崗位職責 篇13

職責:

1、 基於公司大數據基礎和數據資產積累,負責大數據應用整體技術架構的設計、優化,建設大數據能力開放平台;負責大數據應用產品的架構設計、技術把控工作。

2、 負責制定大數據應用系統的數據安全管控體系和數據使用規範。

3、 作為大數據技術方案到產品實現的技術負責人,負責關鍵技術點攻堅工作,負責內部技術推廣、培訓及知識轉移工作。

4、 負責大數據系統研發項目任務規劃、整體進度、風險把控,有效協同團隊成員並組織跨團隊技術協作,保證項目質量與進度。

5、 負責提升產品技術團隊的技術影響力,針對新人、普通開發人員進行有效輔導,幫助其快速成長。

任職資格:

1、 計算機、數學或相關專業本科以上學歷,5-20xx年工作經驗,具有大型系統的技術架構應用架構數據架構相關的實踐工作經驗。

2、 有分佈式系統分析及架構設計經驗,熟悉基於計算集羣的軟件系統架構和實施經驗。

3、 掌握Hadoop/Spark/Storm生態圈的主流技術及產品,深入瞭解Hadoop/Spark/Storm生態圈產品的工作原理及應用場景。

4、 掌握Mysql/Oracle等常用關係型數據庫,能夠對SQL進行優化。

5、 熟悉分佈式系統基礎設施中常用的技術,如緩存(Varnish、Memcache、Redis)、消息中間件(Rabbit MQ、Active MQ、Kafka、NSQ)等;有實踐經驗者優先。

6、 熟悉Linux,Java基礎紮實,至少3-5年以上Java應用開發經驗,熟悉常用的設計模式和開源框架。

大數據架構師的崗位職責 篇14

職責:

1. 負責大數據基礎和應用平台的整體規劃和架構設計,參與需求分析,架構設計,詳細設計以及技術選型決策

2. 參與數據挖掘和建模相關核心算法的代碼實現

3. 負責大數據算法平台的技術把關,性能調優,控制架構質量,解決項目技術難題;對研發項目和任務需求進行評估和方案設計、拆分任務並指導工程師完成開發

4. 帶領團隊提供並實現大數據算法平台上各項數據接入、數據挖掘分析及數據可視化的架構設計與能力,支持解決方案實施

5. 負責數據庫設計、應用架構設計、核心技術選型等工作

6. 協調解決開發中的技術問題、設計和監控運營指標,保障系統穩定運行

7. 培養,指導有能力的員工,指導工程師進行技術驗證實現,核心技術攻關,解決開發過程中的技術難題

任職要求:

1. 熟悉大數據和數據倉庫的系統架構設計方法

2. 熟練使用並理解HadoopSpark架構及生態。(Hadoop,Hive,Hbase,Elasticsearch,Kafka,SparkFlink等)

3. 熟悉分佈式系統架構,有分佈式實時、離線和機器學習平台的架構和開發經驗,具備海量數據清洗、分析處理及存儲的實踐經驗

4. 熟練使用JAVA,具有大規模分佈式系統調優經驗

5. 熟悉AI相關算法,熟悉機器學習、深度學習。熟悉AI學習開源框架(Tensorflow、PyTorch等)者優先;

6. 具備良好的團隊合作精神,對工作充滿激情。

7. 熟悉FusionInsight平台開發經驗者優先

大數據架構師的崗位職責 篇15

職責:

根據大數據業務需求,設計大數據方案及架構,實現相關功能;

搭建和維護大數據集羣,保證集羣規模持續、穩定、高效平穩運行;

負責大數據業務的設計和指導具體開發工作;

負責公司產品研發過程中的數據及存儲設計;

針對數據分析工作,能夠完成和指導負責業務數據建模。

職位要求:

計算機、自動化或相關專業(如統計學、數學)本科以上學歷,3年以上大數據處理相關工作經驗;

精通大數據主流框架(如 Hadoop、hive、Spark等);

熟悉 MySQL、NoSQL(MongoDB、Redis)等主流數據庫,以及rabbit MQ等隊列技術;

熟悉hadoop/spark生態的原理、特性且有實戰開發經驗;

熟悉常用的數據挖掘算法優先.

大數據架構師的崗位職責 篇16

職責:

1、正確理解業務需求,對需求進行工作量評估;

2、參與項目相關的需求、設計、投產手冊等文檔的編寫;

3、根據進度計劃,完成所承擔功能模塊的設計、開發、單元測試、聯調測試;

4、配合測試組修復代碼缺陷,確保功能實現與代碼質量;

5、負責所承擔功能模塊投產、部署,及上線後的日常維護;

6、完成項目經理或者架構師安排的其他工作;

任職資格:

1、本科以上學歷,計算機相關專業,兩年以上大數據開發經驗;

2、熟悉Linux 環境,掌握shell或python;

3、熟練使用hadoop,hive,HBase,YARN,kafka,spark等大數據開發組件;

4、精通 ETL,數據倉庫的設計和開發;

5、有大數據處理實戰經驗,熟悉整個大數據的完整處理流程,包括數據的採集、清洗、存儲;

6、較強的動手能力和學習能力,良好的溝通能力、團隊協調能力;

7、具有銀行、金融行業從業背景者優先。

大數據架構師的崗位職責 篇17

職責:

1.負責企業數據中心建設,設計數據邏輯模型和物理模型,並完成相關開發

2.梳理公司各業務線常用的指標和維度,統一指標定義口徑

3.根據數據應用開發和數據分析需求,設計數據倉庫信息層模型,提高數據開發的效率

4.負責數據模型的運營和優化,及時響應業務邏輯變更,保證模型的數據質量和穩定性

5.負責公司數據標籤體系的建設,並推動標籤體系在實際業務場景中落地

崗位要求:

1.5年以上DW/BI數據架構設計、模型設計和性能調優等相關經驗

2.有較強的數據分析能力,精通數據倉庫架構,熟悉Erwin或PowerDesigner建模工具

3.精通一種主流關係數據庫(如mysql等),熟悉Hive開發

4.有電商業務經驗,元數據管理,數據質量管理或標籤體系搭建經驗者優先

5.優秀的協調溝通與團隊協作能力,極強的責任心,能承受一定的工作壓力,認同企業文化和團隊價值

大數據架構師的崗位職責 篇18

職責:

1)負責大數據平台系統架構設計、核心開發工作(Hadoop&Spark技術方向),基於業務場景設計最優的系統解決方案。

2)構架支持大數量級的數據的大數據平台系統,及相關監控,拓展系統設計及實現。

3)利用Hadoop、Spark等大數據技術對海量數據進行處理,支持BI和數據科學(建模)的應用實現。

4)對現有系統的進行架構深入分析及系統優化,進一步提升系統的性能及數據處理能力。

任職資格

1)統招本科或以上學歷,計算機相關專業, 5年以上軟件開發經驗、3年以上大數據項目經驗。

2)具備較豐富的大數據平台相關構建,維護及調優經驗,有大數據量級下的大數據集市相關經驗。

3)具備較豐富的基於Hadoop或Hive或Spark等大數據處理項目經驗,具備一定的數據挖掘經驗。

4) 具有阿里雲的EMR(emapreduce)的經驗者優先考慮。

5)具有良好的業務理解、溝通和協作能力,具有較強的學習和總結能力。

6)優秀的團隊合作精神、誠實、勤奮、嚴謹,敢於接受挑戰。

7)機器學習技術、數據挖掘經驗豐富者優先考慮。

大數據架構師的崗位職責 篇19

1、建設大數據平台,主要技術為k8s, docker;

2、跟進開源社區的更新,閲讀文檔,驗證feature;

3、閲讀容器生態圈各組件的開源項目代碼,開發新功能;

4、持續提升平台的性能和穩定性。

  • 文章版權屬於文章作者所有,轉載請註明 https://wjfww.com/wenmi/gangwei/z64wyj.html
專題