0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

怎樣在三個月內成為大數(shù)據(jù)工程師

工程師人生 ? 來源:網(wǎng)絡整理 ? 作者:工程師吳畏 ? 2018-09-27 09:38 ? 次閱讀

技術論壇中或知乎上,看到近幾萬的朋友都在疑惑,學習Java應該選擇什么發(fā)展方向,這個咱們在之前的文章中有提到過,Java發(fā)展在領域上有三個選擇方向:

JavaEE,主要應用于企業(yè)級應用開發(fā);安卓開發(fā)方向;嵌入式應用開發(fā)方向。在此建議大家選擇JavaEE方向,因為應用非常廣泛,崗位設置也比較多。

但我們從來沒有討論過學習Java,難道這輩子就只能做Java后端開發(fā)嗎?只能在這條路上奮斗到底嗎?難道中途沒有其他的選擇嗎?

偶然認識的一個朋友,最開始是從事Java后端開發(fā)的,后來他在業(yè)余時間自學成功轉入大數(shù)據(jù)行業(yè),現(xiàn)在是一名大數(shù)據(jù)工程師,待遇也比之前好更多。前提是他是一名Java后端開發(fā)。

大數(shù)據(jù)是我們如今比較火的一個發(fā)展方向,但是很多培訓機構有提到幾個月速成的,小編覺得不是特別靠譜。

原因有以下:

大數(shù)據(jù)是一個新生行業(yè),還不太成熟。

Java發(fā)展了將近20年,也沒有說幾個月速成的,最多也就是帶你入門,讓你對Java的知識結構體系有一個清晰的認知,在后期的工作實踐期間成長的速度更快。

大數(shù)據(jù)的起點要高,并不是所謂的零基礎就可以入門的。

我們接下來講述的有關大數(shù)據(jù)的學習是有條件限制的,首先你需要是一名普通的工程師,如果你是Java工程師的話更好,但如果你是小白的話,那就只能成為一名工程師的后再來學習大數(shù)據(jù)吧。

一、認識大數(shù)據(jù)

大數(shù)據(jù)本質其實也是數(shù)據(jù),不過也包括了些新的特征,

數(shù)據(jù)來源廣;

數(shù)據(jù)格式多樣化(結構化數(shù)據(jù)、非結構化數(shù)據(jù)、Excel文件等);

數(shù)據(jù)量大(最少也是TB級別的、甚至可能是PB級別);

數(shù)據(jù)增長速度快。

而針對以上新的特征需要考慮很多問題:

例如,數(shù)據(jù)來源廣,該如何采集匯總?采集匯總之后,又該存儲呢?數(shù)據(jù)存儲之后,該如何通過運算轉化成自己想要的結果呢?

對于這些問題,我們需要有相對應的知識解決。

二、大數(shù)據(jù)所需技能要求

Python語言:編寫一些腳本時會用到。

Scala語言:編寫Spark程序的最佳語言,當然也可以選擇用Python。

Ozzie,azkaban:定時任務調度的工具。

Hue,Zepplin:圖形化任務執(zhí)行管理,結果查看工具。

Allluxio,Kylin等:通過對存儲的數(shù)據(jù)進行預處理,加快運算速度的工具。

必須掌握的技能:

Java高級(虛擬機、并發(fā))、Linux 基本操作、Hadoop(HDFS+MapReduce+Yarn )、 HBase(JavaAPI操作+Phoenix )、Hive(Hql基本操作和原理理解)、 Kafka、Storm/JStorm、Scala、Python、Spark (Core+sparksql+Spark streaming ) 、輔助小工具(Sqoop/Flume/Oozie/Hue等)

高階技能6條:

機器學習算法以及mahout庫加MLlib、 R語言、Lambda 架構、Kappa架構、Kylin、Alluxio

三、學習規(guī)劃

每天需要有3個小時的學習時間,周末的時候需要10小時,如果做不到的話,只能是

第一階段(基礎階段)

Linux學習

Linux操作系統(tǒng)介紹與安裝、Linux常用命令、Linux常用軟件安裝、Linux網(wǎng)絡、 防火墻、Shell編程等。

Java 高級學習(《深入理解Java虛擬機》、《Java高并發(fā)實戰(zhàn)》)

掌握多線程、掌握并發(fā)包下的隊列、掌握JVM技術、掌握反射和動態(tài)代理、了解JMS。

Zookeeper學習

Zookeeper分布式協(xié)調服務介紹、Zookeeper集群的安裝部署、Zookeeper數(shù)據(jù)結構、命令。

第二階段(攻堅階段)

Hadoop、Hive、HBase、Scala、Spark、Python

第三階段(輔助工具工學習階段)

Sqoop、Flume、Oozie、Hue這些工具的學習主要在CSDN,51CTO以及官網(wǎng)都可以學習。

總結

在技術行業(yè)里面,每天都會有新的東西出現(xiàn),需要關注最新技術動態(tài),不斷學習。任何一般技術都是先學習理論,然后在實踐中不斷完善理論的過程。

如果你覺得自己看書效率太慢,你可以網(wǎng)上搜集一些課程。

快速學習的能力、解決問題的能力、溝通能力在這個行業(yè)是真的非常重要的指標。

要善于使用StackOverFlow和Google來幫助你學習過程遇到的問題。

視頻課程推薦:可以去萬能的淘寶購買一些視頻課程,你輸入“大數(shù)據(jù)視頻課程”,會出現(xiàn)很多,多購買幾份(100塊以內可以搞定),然后選擇一個適合自己的。

以上是我們對大數(shù)據(jù)學習的總結,當然我們也提到了,并不是說零基礎的就可以直接學習,需要有編程的基礎,要先掌握扎實的編程基礎,在此建議學習Java,成為一名工程師的時候,有一定編程經(jīng)驗,自學起來也相對比開始要簡單一點,然后對大數(shù)據(jù)有興趣或者想要進入這個行業(yè)的就可以去學習了。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 工程師
    +關注

    關注

    59

    文章

    1565

    瀏覽量

    68409
  • JAVA
    +關注

    關注

    19

    文章

    2952

    瀏覽量

    104493
  • 大數(shù)據(jù)

    關注

    64

    文章

    8856

    瀏覽量

    137222
收藏 人收藏

    評論

    相關推薦

    FPGA算法工程師、邏輯工程師、原型驗證工程師有什么區(qū)別?

    ,共同進步。 歡迎加入FPGA技術微信交流群14群! 交流問題(一) Q:FPGA中的FPGA算法工程師、FPGA邏輯工程師、FPGA原型驗證工程師者有什么區(qū)別? A:FPGA 算法
    發(fā)表于 09-23 18:26

    正是拼的年紀|65歲電子工程師上班VLOG #65歲退休 #電子工程師 #搞笑 #上班vlog

    電子工程師
    安泰小課堂
    發(fā)布于 :2024年07月25日 11:31:02

    嵌入式軟件工程師和硬件工程師的區(qū)別?

    嵌入式軟件工程師和硬件工程師的區(qū)別? 嵌入式軟件工程師 嵌入式軟件工程師是軟件開發(fā)領域中的一種專業(yè)工程師,他們主要負責設計和開發(fā)嵌入式軟件,
    發(fā)表于 05-16 11:00

    大廠電子工程師常見面試題#電子工程師 #硬件工程師 #電路知識 #面試題

    電子工程師電路
    安泰小課堂
    發(fā)布于 :2024年04月30日 17:33:15

    電源工程師的成長路徑

    即將走馬上任電源工程師這個崗位,請問各位大佬,這個崗位的職業(yè)路徑一般是怎樣的?
    發(fā)表于 04-08 14:19

    半導體市場需求日益旺盛 連續(xù)三個月正增長

    半導體市場需求日益旺盛 連續(xù)三個月正增長 據(jù)半導體行業(yè)組織SEMI全球副總裁、中國區(qū)總裁居龍的觀點,半導體市場需求日益旺盛,預計在2024年半導體銷售額將增長13%-16%,金額有可能達到6000億
    的頭像 發(fā)表于 03-25 16:02 ?977次閱讀

    NVIDIA暫停生產(chǎn)GTX 16系列GPU,預計一到三個月完成庫存消化

    如今,這些芯片剩余庫存已分配至各大AIC廠商運作,預期在未來幾個月內快速消耗完畢。事實上,早在去年12月,便傳出英偉達計劃在2024年第一季度終止生產(chǎn)GTX 16系列GPU的消息。
    的頭像 發(fā)表于 03-05 16:10 ?554次閱讀

    如何搞崩一硬件工程師心態(tài)?試試對ta說這幾句

    硬件工程師
    揚興科技
    發(fā)布于 :2024年02月20日 18:05:49

    騰勢N7將搭載高快NOA,充電速度提升30%,補能效率近300k/10分鐘

    比亞迪騰勢銷售事業(yè)部總經(jīng)理趙長江今日透露,騰勢 N7 的高快型“NOA”正在備案,預計近期上線。此外,首批選擇增配“NOA”駕駛技術的車主車輛現(xiàn)已出廠,預計整車改裝工作可在三個月內完成。
    的頭像 發(fā)表于 01-02 14:18 ?613次閱讀

    #人工智能 #FPGA 怎么成為合格的FPGA工程師?

    fpga工程師
    明德?lián)P助教小易老師
    發(fā)布于 :2023年12月18日 21:19:01