登錄
登錄后你可以
- 下載海量資料
- 學(xué)習(xí)在線(xiàn)課程
- 觀(guān)看技術(shù)視頻
- 寫(xiě)文章/發(fā)帖/加入社區(qū)
登錄
會(huì)員中心
創(chuàng)作中心
完善資料讓更多小伙伴認(rèn)識(shí)你，還能領(lǐng)取20積分哦，立即完善>
標(biāo)簽 > SPARK
Apache Spark 是專(zhuān)為大規(guī)模數(shù)據(jù)處理而設(shè)計(jì)的快速通用的計(jì)算引擎。Spark是UC Berkeley AMP lab （加州大學(xué)伯克利分校的AMP實(shí)驗(yàn)室）所開(kāi)源的類(lèi)Hadoop MapReduce的通用并行框架，Spark，擁有Hadoop MapReduce所具有的優(yōu)點(diǎn)；
文章：61個(gè) 視頻：74個(gè) 瀏覽：19857次 帖子：53個(gè)
基于DPU云盤(pán)掛載的Spark優(yōu)化解決方案
1.? 方案背景和挑戰(zhàn) Apache Spark，作為當(dāng)今大數(shù)據(jù)處理領(lǐng)域的佼佼者，憑借其高效的分布式計(jì)算能力、內(nèi)存計(jì)算優(yōu)化以及強(qiáng)大的生態(tài)系統(tǒng)支持，已牢固...
“Spark+Hive”在DPU環(huán)境下的性能測(cè)評(píng) | OLAP數(shù)據(jù)庫(kù)引擎選型白皮書(shū)（24版）DPU部分節(jié)選
在奇點(diǎn)云2024年版《OLAP數(shù)據(jù)庫(kù)引擎選型白皮書(shū)》中，中科馭數(shù)聯(lián)合奇點(diǎn)云針對(duì)Spark+Hive這類(lèi)大數(shù)據(jù)計(jì)算場(chǎng)景下的主力引擎，測(cè)評(píng)DPU環(huán)境下對(duì)比C...
2024-05-30 標(biāo)簽：數(shù)據(jù)庫(kù)DPUOLAP 439 0
如何利用DPU加速Spark大數(shù)據(jù)處理？ | 總結(jié)篇
一、總體介紹 1.1 背景介紹 近年來(lái)，隨著存儲(chǔ)硬件的革新與網(wǎng)絡(luò)技術(shù)的突飛猛進(jìn)，如NVMe SSD和超高速網(wǎng)絡(luò)接口的普及應(yīng)用，I/O性能瓶頸已得到顯著改...
2024-04-02 標(biāo)簽：cpu網(wǎng)絡(luò)接口DPU 980 0
RDMA技術(shù)在Apache Spark中的應(yīng)用
背景介紹 在當(dāng)今數(shù)據(jù)驅(qū)動(dòng)的時(shí)代，Apache?Spark已經(jīng)成為了處理大規(guī)模數(shù)據(jù)集的首選框架。作為一個(gè)開(kāi)源的分布式計(jì)算系統(tǒng)，Spark因其高效的大數(shù)據(jù)處...
2024-03-25 標(biāo)簽：數(shù)據(jù)集RDMASPARK 1448 0
背景簡(jiǎn)介 Apache Spark（下文簡(jiǎn)稱(chēng)Spark）是一種開(kāi)源集群計(jì)算引擎，支持批/流計(jì)算、SQL分析、機(jī)器學(xué)習(xí)、圖計(jì)算等計(jì)算范式，以其強(qiáng)大的容錯(cuò)能...
Blaze: 用Rust重寫(xiě)Spark執(zhí)行層，平均提升30%算力
隨著機(jī)器硬件的發(fā)展，RAM的價(jià)格也大幅降低，這時(shí)Spark提出了彈性分布式數(shù)據(jù)集（RDD），這是一種分布式內(nèi)存抽象，可以讓程序員以容錯(cuò)的方式在大型集群上...
分析Hive與Spark分區(qū)策略的異同點(diǎn)
隨著技術(shù)的不斷的發(fā)展，大數(shù)據(jù)領(lǐng)域?qū)τ诤Ａ繑?shù)據(jù)的存儲(chǔ)和處理的技術(shù)框架越來(lái)越多。在離線(xiàn)數(shù)據(jù)處理生態(tài)系統(tǒng)最具代表性的分布式處理引擎當(dāng)屬Hive和Spark，它...
2023-04-11 標(biāo)簽：數(shù)據(jù)存儲(chǔ)IOPsHDFS 894 0
MapReduce是一種編程模型，可用于大規(guī)模數(shù)據(jù)集（數(shù)據(jù)量大于1TB的數(shù)據(jù)集）的并行運(yùn)算。
這是數(shù)據(jù)處理引擎的發(fā)電站，它們正競(jìng)相定義下一個(gè)大數(shù)據(jù)時(shí)代 當(dāng)涉及到大數(shù)據(jù)時(shí)，流計(jì)算和它所帶來(lái)的實(shí)時(shí)強(qiáng)大分析的重要性是不可避免的。此外，當(dāng)涉及到流計(jì)...
2023-02-24 標(biāo)簽：數(shù)據(jù)處理大數(shù)據(jù)SPARK 603 0
Docker入門(mén)指南之Docker使用場(chǎng)景介紹
在大數(shù)據(jù)平臺(tái)型產(chǎn)品的開(kāi)發(fā)過(guò)程中，經(jīng)常要跟許多模塊打交道，包括Hadoop、Hive、Spark、Zookeeper……等多達(dá)幾十個(gè)開(kāi)源組件，為了不影響團(tuán)...
2023-02-06 標(biāo)簽：大數(shù)據(jù)SPARKDocker 635 0
TrafficTeach大數(shù)據(jù)項(xiàng)目:車(chē)流量監(jiān)控立即下載
類(lèi)別：電子資料 2022-05-16 標(biāo)簽：流量監(jiān)控大數(shù)據(jù)SPARK 557 0
基于Spark的學(xué)術(shù)論文熱點(diǎn)數(shù)據(jù)挖掘方法立即下載
類(lèi)別：電子資料 2021-06-02 標(biāo)簽：數(shù)據(jù)挖掘機(jī)器學(xué)習(xí)Spark 662 0
類(lèi)別：電子資料 2021-06-01 標(biāo)簽：機(jī)器學(xué)習(xí)SPARK 593 0
改進(jìn)的DBSCAN聚類(lèi)算法在Spark平臺(tái)上的應(yīng)用立即下載
類(lèi)別：電子資料 2021-04-26 標(biāo)簽：內(nèi)存聚類(lèi)算法Spark 959 0
如何解決Spark數(shù)據(jù)傾斜的八種實(shí)用方法詳細(xì)說(shuō)明立即下載
類(lèi)別：模擬數(shù)字 2020-04-02 標(biāo)簽：代碼大數(shù)據(jù)Spark 621 0
如何在Spark環(huán)境下進(jìn)行犯罪人員時(shí)空關(guān)聯(lián)規(guī)則挖掘立即下載
類(lèi)別：模擬數(shù)字 2018-12-18 標(biāo)簽：算法數(shù)據(jù)挖掘Spark 1011 0
如何使用Spark計(jì)算框架進(jìn)行分布式文本分類(lèi)方法的研究立即下載
類(lèi)別：模擬數(shù)字論文 2018-12-18 標(biāo)簽：算法貝葉斯Spark 1134 0
如何使用Spark進(jìn)行并行FP-Growth算法優(yōu)化及實(shí)現(xiàn)立即下載
類(lèi)別：模擬數(shù)字 2018-11-23 標(biāo)簽：算法數(shù)據(jù)集Spark 1070 0
如何使用Spark進(jìn)行并行化出租車(chē)軌跡熱點(diǎn)區(qū)域的提取與分析資料概述立即下載
類(lèi)別：模擬數(shù)字 2018-11-23 標(biāo)簽：GPS數(shù)據(jù)挖掘Spark 1291 0
spark為什么比mapreduce快？ 首先澄清幾個(gè)誤區(qū)： 1：兩者都是基于內(nèi)存計(jì)算的，任何計(jì)算框架都肯定是基于內(nèi)存的，所以網(wǎng)上說(shuō)的spark是基于內(nèi)...
前言： 由于最近對(duì)spark的運(yùn)行流程非常感興趣，所以閱讀了《Spark大數(shù)據(jù)處理：技術(shù)、應(yīng)用與性能優(yōu)化》一書(shū)。通過(guò)這本書(shū)的學(xué)習(xí)，了解了spark的核心...
2024-07-02 標(biāo)簽：大數(shù)據(jù)SPARK 348 0
1.背景介紹 Apache Spark（以下簡(jiǎn)稱(chēng)Spark）是一個(gè)開(kāi)源的分布式計(jì)算框架，由UC Berkeley AMP Lab開(kāi)發(fā)，可用于批處理、交互...
關(guān)于Spark的從0實(shí)現(xiàn)30s內(nèi)實(shí)時(shí)監(jiān)控指標(biāo)計(jì)算
前言 說(shuō)起Spark，大家就會(huì)自然而然地想到Flink，而且會(huì)不自覺(jué)地將這兩種主流的大數(shù)據(jù)實(shí)時(shí)處理技術(shù)進(jìn)行比較。然后最終得出結(jié)論：Flink實(shí)時(shí)性大于S...
2024-06-14 標(biāo)簽：RDD實(shí)時(shí)監(jiān)控Spark 353 0
Spark基于DPU Snappy壓縮算法的異構(gòu)加速方案
一、總體介紹 1.1 背景介紹 Apache Spark是專(zhuān)為大規(guī)模數(shù)據(jù)計(jì)算而設(shè)計(jì)的快速通用的計(jì)算引擎，是一種與 Hadoop 相似的開(kāi)源集群計(jì)算環(huán)境，...
Spark Connected與英飛凌面向市場(chǎng)推出Yeti 的500 W無(wú)線(xiàn)充電解決方案
【2023 年 9月4 日，美國(guó)德克薩斯州達(dá)拉斯和德國(guó)慕尼黑訊】開(kāi)發(fā)先進(jìn)、安全和創(chuàng)新無(wú)線(xiàn)電源技術(shù)的全球領(lǐng)先供應(yīng)商Spark Connected 與英飛凌...
2023-09-13 標(biāo)簽：英飛凌mcu無(wú)線(xiàn)充電 734 0
知名編程語(yǔ)言 Ada 與 SPARK 所屬公司 AdaCore 發(fā)布了一則關(guān)于 NVIDIA 的案例 ，案例顯示：NVIDIA 的產(chǎn)品運(yùn)行著許多經(jīng)過(guò)正式...
唐代李中在《宮詞二首》里寫(xiě)道，“門(mén)鎖簾垂月影斜，翠華咫尺隔天涯”。從那之后中國(guó)人記住了一個(gè)詞，叫做咫尺天涯。 這個(gè)頗為風(fēng)雅的詞，同時(shí)也蘊(yùn)藏著大智慧。兩個(gè)...
在 MapReduce 框架中， Shuffle 階段是連接 Map 與 Reduce 之間的橋梁， Map 階段通過(guò) Shuffle 過(guò)程將數(shù)據(jù)輸出到...
2021-10-11 標(biāo)簽：cpu數(shù)據(jù)SPARK 1868 0
Join作為SQL中一個(gè)重要語(yǔ)法特性，幾乎所有稍微復(fù)雜一點(diǎn)的數(shù)據(jù)分析場(chǎng)景都離不開(kāi)Join，如今Spark SQL(Dataset/DataFrame)已...
換一批
編輯推薦廠(chǎng)商產(chǎn)品技術(shù)軟件/工具OS/語(yǔ)言教程專(zhuān)題
| 電機(jī)控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動(dòng)駕駛 | TI | 瑞薩電子 |
| BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
| 無(wú)刷電機(jī) | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
| 直流電機(jī) | PID | MOSFET | 傳感器 | 人工智能 | 物聯(lián)網(wǎng) | NXP | 賽靈思 |
| 步進(jìn)電機(jī) | SPWM | 充電樁 | IPM | 機(jī)器視覺(jué) | 無(wú)人機(jī) | 三菱電機(jī) | ST |
| 伺服電機(jī) | SVPWM | 光伏發(fā)電 | UPS | AR | 智能電網(wǎng) | 國(guó)民技術(shù) | Microchip |
| Arduino | BeagleBone | 樹(shù)莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
| 示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
| OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
| C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
| Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
| DuerOS | Brillo | Windows11 | HarmonyOS |
關(guān)注我們的微信
下載發(fā)燒友APP
電子發(fā)燒友觀(guān)察
版權(quán)所有 ? 湖南華秋數(shù)字科技有限公司
長(zhǎng)沙市望城經(jīng)濟(jì)技術(shù)開(kāi)發(fā)區(qū)航空路6號(hào)手機(jī)智能終端產(chǎn)業(yè)園2號(hào)廠(chǎng)房3層（0731-88081133）
電子發(fā)燒友 （電路圖） 湘公網(wǎng)安備43011202000918
工商網(wǎng)監(jiān)
湘ICP備2023018690號(hào)-1
