大資料架構師工作的崗位職責（通用19篇）

大資料架構師工作的崗位職責 篇1

職責

1、負責大資料架構設計，包括定義資料的儲存、整合(ETL)、應用，支撐業務運營和資料分析類需求實現;

2、制定資料治理領域的資料體系化管理措施，包括元資料設計、資料標準、資料質量、資料處理、資料安全等工作，確保資料可信與安全;

3、基於行業資料積累，滿足業務的資料探勘需求，實現從資料到資產的轉變，根據目標行業建立具有前瞻性的資料模型;

4、對各產品的資料安全負責，主導制定和實施資料庫系統安全策略，保證整體方案資料安全;

崗位要求

業務技能要求：

1、深入理解雲化、資料倉庫，在參與過的系統設計中，必須涉及這兩項關鍵技術;

n2、精通或者熟悉Hadoop體系架構，以及HDFS/HBase/Hive/MapReduce/Spark等技術，瞭解體系架構各元件的優缺點，有直接的產品設計與開發、部署、調優的經驗;

3、精通或熟悉常見RDBMS(Oracle / PostgreSQL / MySql)、NoSQL(Redis / Memcached/ MongoDB)、全文搜尋引擎(Solr/ElasticSearch)的使用及開發，瞭解各資料庫優缺點， 熟悉與架構設計相關的資料儲存、效能調優等相關領域知識，有相關專案經驗尤佳;

4、熟悉業界常用的資料採集、整合、資料儲存、計算、資料模型、資料分析的技術方案，具有資料分析或資料探勘相關經驗者優先;

n5、熟悉資料治理相關流程，包括資料接入、資料處理、資料治理、資料組織、資料服務等。

專業知識要求：

1、具備資料治理的知識與體系方案，包含政策、組織、角色、流程、規範等，以及規劃相應的支撐方案。瞭解業界的資料管理方法論;

2、具備資料用例設計和開發能力。能夠基於業務相關資料進行業務需求分析和痛點識別，將業務需求轉化為資料的需求，完成資料用例的設計和開發;

3、精通海量資料(日增量百億)級別資料倉庫、資料集市的構建流程。熟悉公安、政務、工業、交通、醫療等多行業業務者優先。

大資料架構師工作的崗位職責 篇2

職責：

1. 負責大資料平臺的基礎技術規劃，編制相關規範文件。

2. 負責大資料平臺的資料採集，處理，儲存以及挖掘分析的架構實現。

3. 負責大資料平臺的實際規劃建設，包括環境和框架的規劃搭建以及部分核心編碼工作。

4. 負責大資料相關技術發展方向的預研。

5. 參與業務需求調研，根據需求及行業特點設計大資料解決方案並跟進具體實施專案。

6. 制定大資料平臺中資料質量，業務質量監控及管理辦法。

崗位要求：

1. 全日制本科及以上學歷，5年以上工作經驗，4年及以上大資料架構設計經驗，熟悉大資料解決方案，包括Hadoop平臺、Spark、storm、機器學習、深度學習等大資料解決方案。

2. 深刻理解大資料處理(流計算、分散式計算、分散式檔案系統、分散式儲存等相關技術)實現方法。有架構和設計實踐經驗。

3. 精通大型資料庫Oracle、SqlServer等的開發。

4. 精通java，Python中的一種或多種語言。

5. 熟悉容器、虛擬化、微服務框架等相關技術。

6. 對資料敏感，有嚴謹的工作思路，良好的溝通能力和團隊合作精神。

7. 熟悉R，Python，SAS、SPSS等資料探勘經驗者優先。

8. 高寬展性，高效能，和分散式系統的實踐及運維經驗者優先。

9. 有大型資料倉庫實施、大資料平臺數據開發經驗，熟悉運營商業務者優先。

大資料架構師工作的崗位職責 篇3

職責：

1、負責DMP技術架構設計與構建，根據業務規劃及技術規劃制定應用架構方案;

2、負責設計構建DMP資料採集、儲存及分析框架，設計資料處理的技術流程和規範;

3、負責核心功能的架構與程式碼模板編寫，開發與維護系統公用核心模組;

4、負責基於大資料技術的海量資料的自動化分析處理和統計工作。

崗位要求：

1、計算機或相關專業本科以上學歷，三年以上的開發經驗，二年以上大資料相關軟體架構的實際經驗;

2、精通大資料處理技術，熟悉Hadoop/Storm技術體系，有Hadoop、Hive、Hbase專案經驗;

3、具有較強的架構能力，具有分散式計算、實時計算、資料倉庫、資料探勘系統的架構經歷優先;

4、對資料敏感，洞察力強，瞭解國內外廣告發展趨勢;

5.、擅長系統分析與設計，精通常用的設計模式，擅長效能調優;

6、熟悉DMP/RTB技術原理，瞭解使用者的行為分析及建模;有RTB/DSP/SSP/EXCHANGE/DMP等廣告行業從業經歷。

大資料架構師工作的崗位職責 篇4

職責：

1、負責spark, hadoop, flink等開發和優化。

2、參與前期需求溝通和分析，以產品化開發的思維，完成需求分解和資料架構設計。

3、與研發和資料科學家合作保證產品定義清晰，按時完成產品上線。

4、能夠洞察市場狀況，與各部門合作轉化為基於大資料探勘的新策略或方案.

5、主動創造和發掘新的基於大資料探勘產品商業模式.

任職要求：

1、全日制本科及以上學歷，計算機軟體相關專業，5年以上開發經驗，3年以上架構經驗

2、精通hadoop/MapReduce/Spark/Hbase/Flink/Hive/R/Mahout等分散式資料儲存和分散式計算平臺原理，流式計算開發，有開源二次開發經驗者優先。

3、精通大資料探勘、機器學習.熟練掌握Java/Perl/Python至少一種程式語言。

4、具有資料探勘和分析、機器學習等專案實施相關經驗者優先;

5、良好的跨部門溝通合作能力，解決不同觀點能力並取得結果。具備敏銳的網際網路產品理解力，學習能力和邏輯思維能力強;

6、較強的自我驅動力、推動和協調能力，強烈的責任心和團隊合作精神;

大資料架構師工作的崗位職責 篇5

職責：

1、負責大資料平臺技術框架的技術選型和搭建;

2、負責核心技術問題公關，建設高可靠性，擴充套件性及高效能大資料/資料應用平臺;

3、負責規劃資料探勘的整體流程，負責大資料開發團隊業務需求開發;

4、與其他團隊密切配合，尋求資料層面的業務價值，利用資料分析結論推動產品優化;

5、研究和分享大資料架構領域新技術。

任職要求：

1、計算機相關專業全日制統招本科及以上;

2、5年以上工作經驗，至少3年以上大資料專案相關工作經驗，能夠設計大型大資料系統的架構和技術方案;

3、精通Hadoop/Spark/Hbase/Hive等大資料技術,精通ETL技術;

4、熟悉資料探勘，瞭解典型大資料演算法和策略;

5、熟悉主流Java技術框架，精通關係型資料庫及SQL語言，熟悉NoSQL/JSON/XML;

6、有較強的學習能力和問題解決能力，邏輯嚴密、思路清晰;

7、有資料倉庫經驗者優先，有金融行業專案經驗者優先。

大資料架構師工作的崗位職責 篇6

職責：

負責大資料平臺的規劃和搭建、完成大資料平臺的日常運營工作，為資料分析和展現提供支援;

對系統框架相關技術和業務進行培訓，並負責核心程式碼編寫，指導團隊開發及解決出現的系統問題;

參與基於大資料平臺的創新業務場景進行資料產品的架構設計，負責資料產品的研發交付;

負責處理大資料平臺的疑難問題，為資料團隊提供可靠的技術支援;

負責資料質量、穩定性等資料管理，資料內部共享融通的資料平臺，讓資料標準更規範、資料獲取更高效;

及時跟進大資料領域新技術並分享，提升團隊技術能力。

任職要求：

本科或以上學歷，5年以上資料系統建設經驗，3年以上大資料架構設計經驗;

精通 java，python，scala 等一種大資料開發語言，熟悉Hadoop生態圈，包括但不限於hdfs，hive，spark， 有豐富的大資料專案的實踐經驗;

具備創新精神，條理清晰，溝通表達和邏輯思維能力強;

熟悉資料倉庫的設計和開發，對資料架構有深入的瞭解和具備相關的專案實踐經驗優先;

對SQL on Hadoop 的開源查詢引擎(如Presto、 Apache Drill ) 原理有深入研究優先;

有敏捷大資料和資料視覺化實踐經驗優先。

大資料架構師工作的崗位職責 篇7

職責:

1、 負責大資料倉庫、資料集市的規劃及實現，負責大資料中臺的設計和核心開發工作;

2、 負責資料基礎架構和資料處理體系的升級和優化，不斷提升系統的穩定性和效率，為公司的業務提供大資料底層平臺的支援和保證;

3、 大資料平臺的資料採集、處理、儲存以及挖掘分析的架構實現;

4、 研究未來資料模型和計算框架的創新與落地，包括但不限於以下領域：大規模資料實時化、研發模式敏捷化、資料計算框架輕量化、資料模型組織方式業務化等方面,參與制定並實踐團隊的技術發展路線

任職資格:

1、 精通資料建模、資料標準管理、元資料管理、資料質量管理;

2、 有作為技術負責人系統化解決問題的成功案例;有海量資料實踐經驗優先;

3、 熟悉目前正在發展的大資料分散式平臺前沿技術的應用;包括但不僅僅限於：hadoop、flink、spark等;

4、 性格積極樂觀，誠信，能自我驅動，有較強的語言表達能力;具備強烈的進取心、求知慾及團隊合作精神;具有良好的溝通、團隊協作、計劃和創新的能力; 在資料業界有一定的影響力優先，具有風控經驗背景的人優先;

5、 具備獨立的深度思考能力，給出結合實際情況的較為理想的技術解決方案。

大資料架構師工作的崗位職責 篇8

職責：

1、大資料平臺的規劃、設計、實施，並優化資料庫;

2、對資料庫進行管理，負責資料庫應用系統的運營及監控;

3、對資料庫效能分析與調優，排錯，保證資料正確率;

4、配合其他部門進行的資料處理、查詢，統計和分析工作;

5、完成公司下達的專案開發任務。

任職要求：

1、計算機及相關專業本科以上學歷，5年以上軟體開發從業經驗，其中包括至少2年以上的大資料開發工作經驗;

2、熟悉hive,hadoop/spark,hbase等大資料相關技術架構，有管理或優化大型分散式叢集經驗;

3、熟悉linux基本命令，精通SQL指令碼的編寫，有豐富的資料庫管理、運維調優經驗;

4、熟悉C++、Java、C#等開發語言;

5、有網際網路電商行業大資料分析處理和大型資料倉庫的設計和實施經驗;

6、有分散式系統分析及架構設計經驗和大型計算叢集的基礎設施開發維護經驗;

7、快速處理系統突發事件的能力，較強的學習和創新能力;

8、良好的溝通能力和團隊合作精神。

大資料架構師工作的崗位職責 篇9

職責:

1、負責自然語音互動、IOT家電物聯控制、知識圖譜等相關模組和系統的開發;

2、負責掌握第三方介面的呼叫和功能實現，持續優化服務效能和容量，並保證產品的相容性和執行效率;

3、根據設計文件和需求說明完成程式碼編寫、除錯、單元測試與維護，確保專案進度和質量;

4、協助制定測試計劃，及時發現並修復BUG，實現服務端的效能優化。

任職資格:

1、大學本科3年以上工作經驗，計算機相關專業;

2、熟悉軟體專案開發流程，具有良好編碼風格及文件編寫能力;

3、熟悉Linux伺服器相關技術，能夠獨立完成伺服器部署，具有相關經驗;

4、熟悉Hadoop/Spark框架，JAVA基礎紮實;

5、熟練使用Mysql資料庫，瞭解MongoDB或neo4j等分散式資料庫;

6、熟悉SpringCloud,SSM,Docker,redis開發者優先;

7、熟悉前端(包括但不限於Html5、css、Angularjs、ajax、jquery等)開發技術優先;

8、瞭解Socket網路程式設計、MQTT等，有相應實踐經驗者優先;

9、有智慧語音語義、知識圖譜服務端開發經驗者優先。

大資料架構師工作的崗位職責 篇10

職責：

1.負責整個大資料平臺架構的設計和構建;

2.負責構建大資料平臺的資料交換、任務排程等通用平臺;

3.制定開發、測試、實施、維護的標準和規範，指導和培訓工程師，不斷提升團隊能力。

4.參與系統需求分析、架構設計、技術選型、應用設計與開發以及測試與部署，負責編寫核心部分程式碼。

5.持續挑戰新的技術方向，攻克大資料量、高併發、高可用、可擴充套件等技術難點。

任職要求：

1.3年以上大資料架構經驗，豐富的資料倉庫、資料探勘、機器學習專案經驗

2.大規模資料處理的架構和設計實戰經驗

3.精通Spark、MR，熟練HDFS、Yarn、Hbase、Hive、MongoDB，熟悉Kafka、Redis、Storm、Mahout、Flume、ElasticSearch、GraphDB(NEO4J或其他)等，並具有豐富的大型資料平臺工程經驗

4.深刻理解大資料處理(流計算，分散式計算，分散式檔案系統，分散式儲存等)相關技術和實現方法

5.熟悉主資料、元資料、資料質量等企業資料管理相關的體系和方法，熟練Linux/Unix平臺上的開發環境

6.本科或以上學歷，計算機軟體或相關專業，豐富的java開發經驗和網際網路背景優先。

7.具有比較強的問題分析和處理能力，有比較優秀的動手能力，熱衷技術，精益求精

大資料架構師工作的崗位職責 篇11

職責：

1、負責規劃科技大資料平臺及科技資料入庫自動化的方案設計;

2、負責大資料平臺的開發和維護，以及對外服務介面的開發;

3、負責大資料平臺的優化和改進工作。

任職要求

1、計算機相關專業本科及以上學歷，5年以上開發經驗，其中3年以上為網際網路、大資料相關的開發經驗;

2、熟知Hadoop生態圈體系，精通Hadoop/Spark/Storm/Kafka中的一項或幾項，深刻理解MapReduce的執行原理和機制，有MPI經驗者尚佳;

3、熟悉Elasticsearch、Redis、Hbased等相關資料庫的構建和操作，尤其是資料庫叢集的構建和操作，熟悉Neo4j者尚佳;

4、具有機器學習相關專案經驗者優先。

大資料架構師工作的崗位職責 篇12

職責

1、負責企業級大資料平臺、資料雲服務的設計與開發;

2、基於大資料生態圈，支援智慧交通等大資料場景應用實現;

3、負責公司大資料產品的設計、封裝與落地;

4、負責學習大資料相關演算法研究、實現與應用

任職要求

1、統招本科及以上學歷;2年以上智慧城市建設或交通行業資訊化相關工作經驗，3年以上大資料架構設計、開發經驗;

2、精通大資料生態圈的技術，包括但不限於MapReduce、Spark、Hadoop、Kafka、Mongodb、Redis、Flume、Storm、Hbase、Hive，具備原始碼級問題解決和叢集優化改造能力;

3、熟悉常用程式語言，包括Java、Python、Scala等;

4、具有很強的技術研發和創新能力，能有效把握技術發展方向，有較強的執行能力、學習能力、溝通能力、適應能力，責任心強;

大資料架構師工作的崗位職責 篇13

職責：

1、負責大資料專案平臺架構的評估、規劃和設計

2、開發大資料平臺的核心模組程式碼，負責大資料平臺的搭建，完成系統除錯、整合與實施，保證大資料產品的上線執行

3、根據業務需求整合優化資料架構，保證產品的可靠性、穩定性

4、指導開發人員完成資料模型規劃建設，分析模型構建及分析呈現

5、深入研究大資料相關技術和產品，跟進業界先進技術;

6、根據專案要求編寫相關技術文件;

7、負責大資料平臺的架構評審，程式碼評審，上線評審;參與資料應用需求、設計、稽核和評審;

8、負責核心模組研發，負責大資料平臺的搭建，完成系統除錯、整合與實施;

9. 負責關鍵功能的開發，技術難題的解決，以及輸出程式碼的關鍵把控;

10. 負責對使用關鍵技術的預研和選型，完成 PoC ;

11. 指導工程師完成開發工作，並能分享技術經驗。

任職資格:

1、精通Linux作業系統，熟練使用Java;

2、3年以上大資料專案實戰經驗，兩個專案的架構設計經驗，熟悉Hadoop、Hbase、Storm、Spark、Pig等開源框架，並熟悉其工作原理;

3、有Hadoop、Spark、Hbase平臺效能調優經驗;

4、熟悉其它分散式儲存相關技術，包括HDFS，Hive、Redis、Mongodb、 Flume、Kafaka、Sqoop、Zookeeper、ElasticSearch等;

5、熟悉Java開發常用框架.如Spring、MyBatis等;

6、熟悉關係型資料庫如oracle及資料庫程式設計。

7、能夠根據專案情況安排人力、分配任務，具有較強的團隊管理能力。

8、碩士以上學歷，20xx年以上的工作經驗。

大資料架構師工作的崗位職責 篇14

職責：

1.負責過多個大資料專案的架構;

2.精通Hadoop、Spark, HBase等主流的大資料平臺、精通各元件優化設計原理;

3.精通大資料實時流式處理的設計和應用;

3.熟悉大資料平臺調優，具備大資料生產平臺調優經驗;

4.金融行業，運營商行業大資料架構經驗更優;

5.研究大資料技術的最新發展，並引入到公司技術架構;

6.指導大資料工程師的日常工作，並培養技術骨幹。

任職資格：

1.計算機相關專業本科或以上學歷;

2.具有5年以上大資料相關開發經驗;

3.具有2年以上帶團隊經驗

4.對Hadoop/Hive/Spark/HBase/ES等等大資料常用技術有深刻理解，能夠帶領團隊進行技術攻堅，完成中介軟體的實施、改造、調優;

5.精通海量資料和實時資料的分析處理，能對線上的資料處理效能問題做調優;

6.精通資料倉庫以及維度建模原理，有大型資料倉庫建設經驗;

7.精通關係型資料庫和NoSQL資料庫的使用，熟悉相關理論;

8.溝通順暢，重點突出，高效。

大資料架構師工作的崗位職責 篇15

1、負責公司大資料處理框架研發工作，設計與開發分散式儲存、資料處理與分析架構。

2、負責大資料平臺與產品和相關技術的追蹤及研究。

3、負責大資料的處理工作，以及業務資料提取、載入、轉換處理流程的開發和優化。

4、利用大資料平臺工具對資料維護。

5、負責相關專案的技術支援和服務。

6、持續對系統的技術架構進行改進和優化。

大資料架構師工作的崗位職責 篇16

職責：

1、搭建基於Hadoop/Spark的資料探勘體系和大資料分析系統架構;

2、研究大資料領域前沿資料探勘技術，並引入相應技術在資料中心的使用;

3、進行大資料系統框架設計、模型演算法開發;

4、負責大型資料探勘專案方案制定、專案實施落地及優化等 ;

5、開展資料爬取、聚類分析、輿情分析、魚骨圖分析、定價策略等領域資料探勘工作;

任職資格：

1、本科以上學歷(持有學士學位)(985，211優先)，計算機相關專業，五年工作經驗;

2、二年以上資料探勘專案經驗，完整參與過資料探勘大資料平臺的架構開發過程，具備網際網路行業背景優先;

3、精通分散式計算框架(hadoop、spark、Storm等)及相關經驗，熟練掌握Hive/SQL，Python，熟悉Python、R相關數值科學計算庫(NumPy,SciPy等);

4、瞭解傳統的BI/DW 理論，能結合傳統BI實踐設計大資料平臺;

5、熟悉常用機器學習演算法(如分類、迴歸、聚類、關聯規則等)及其原理，具備應用場景經驗，如使用者畫像、商品關聯度分析、輿情分析;

6、熟悉主資料、元資料、資料質量、和資料建模等資料治理相關的體系和方法;

7、具備較強的邏輯思維能力、資料敏感度，擅於利用資料發現問題及解決問題;

大資料架構師工作的崗位職責 篇17

職責：

1、負責公司大資料底層框架的整體架構設計，結合公司實際業務情況進行技術選型及大資料戰略規劃;

2、負責公司專案的整體評估、設計、架構及關鍵模組的開發;

3、負責架構優化，協助團隊解決開發過程中遇到的技術難題;

4、負責新技術的調研和大資料相關開源元件的研究，並能在團隊進行推廣應用;

5、參與資料分析、資料建模、專案核心模組及核心框架的開發;

6、負責大資料平臺的效能條有和問題診斷。

任職要求：

1、計算機相關專業，本科及以上學歷，3-5年以上工作經驗，2-3年大資料相關經驗;

2、具有紮實的大資料和資料倉庫理論功底，負責過大資料平臺或資料倉庫設計;

3、對基於Hadoop的大資料體系有深入的認識，具備相關產品(Hadoop、Hive、HBase、Spark、Storm、Flume、Kafka、Redis、ES等)專案應用研發經驗，有Hadoop叢集搭建和管理經驗，度過Hadoop和Spark原始碼;

4、熟悉Linux和Python語言，瞭解Scala原理和底層技術;

5、熟悉分散式系統的架構及對其進行設計和優化，對海量資料的清晰、分析處理及儲存有相關的實戰經驗;

6、演算法基礎紮實，熟悉常見的資料結構，深入理解分散式演算法和以上提到的分散式系統，

7、必須有一線coding的能力;

8、有統計學、數學知識，海量資料處理、分析和挖掘，大型網際網路公司從業經歷著優先。

大資料架構師工作的崗位職責 篇18

職責：

1. 負責產品級業務系統架構(如業務資料物件識別，資料實體、資料屬性分析，資料標準、端到端資料流等)的設計與優化。協助推動跨領域重大資料問題的分析、定位、解決方案設計，從架構設計上保障系統高效能、高可用性、高安全性、高時效性、分散式擴充套件性，並對系統質量負責。

2.負責雲資料平臺的架構設計和資料處理體系的優化，推動雲資料平臺建設和持續升級，並制定雲資料平臺呼叫約束和規範。

3. 結合行業應用的需求負責資料流各環節上的方案選型，主導雲資料平臺建設，參與核心程式碼編寫、審查;資料的統計邏輯迴歸演算法、實時互動分析;資料視覺化方案等等的選型、部署、整合融合等等。

4. 對雲資料平臺的關注業內技術動態，持續推動平臺技術架構升級，以滿足公司不同階段的資料需求。

任職要求：

1. 熟悉雲端計算基礎平臺，包括 Linux(Ubuntu/CentOS)和 KVM、OpenStack/K8S 等基礎環境，熟悉控制、計算、儲存和網路;

2. 掌握大型分散式系統的技術棧，如：CDN、負載均衡、服務化/非同步化、分散式快取、NoSQL、資料庫垂直及水平擴容;熟悉大資料應用端到端的相關高效能產品。

3. 精通 Java，Python，Shell 程式語言，精通 SQL、NoSQL 等資料庫增刪改查的操作優化;

4. PB 級別實戰資料平臺和生產環境的實施、開發和管理經驗;

5. 熟悉 Docker 等容器的編排封裝，熟悉微服務的開發和日常排程;

6.計算機、軟體、電子資訊及通訊等相關專業本科以上學歷，5 年以上軟體工程開發經驗，2 年以上大資料架構師工作經驗。

大資料架構師工作的崗位職責 篇19

職責：

1.負責資料倉庫建設，基於資料驅動構建企業級資料模型，根據架構設計進行各層資料模型開發。

2.面向PB級別超大規模資料處理和查詢需求，設計適合業務變化的合理的多維資料分析系統架構，滿足多樣性需求。

3.構建設計良好的資料流、排程系統、查詢引擎、監控系統，保證系統穩定高效執行，以實現資料的最大價值。

4.指導團隊成員開展資料倉庫建設。

5.參與重點專案的評審，參與企業資料管理體系建設。

任職要求：

1.統招本科及以上學歷。

2.從事資料倉庫領域至少5年以上，熟悉資料倉庫模型設計與ETL開發經驗 ，掌握Kimball的維度建模設計方法，具備海量資料加工處理(ETL)相關經驗 。

3.具有一定資料模型和資料架構基礎，熟悉hadoophive和常用資料庫。

4. 精通SQL，有一定的SQL效能調優經驗，熟悉hive sql的開發。

5.具有管理團隊開發經驗，具備良好的組織能力、協調能力及專案管理能力。

6.具有較好的文字功底及語言表達能力，能夠快速、準確地理解需求。

7.具有專研、快速學習和創新精神，具備獨立分析問題和解決問題的能力。

8.具有責任心，時間觀念強，工作獨立性強，有良好的團隊合作精神。

9.全日制普通本科畢業。