0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

概率分布合成的數(shù)據(jù)上平均數(shù)的探索詳細資料概述

zhKF_jqr_AI ? 來源:未知 ? 作者:易水寒 ? 2018-07-19 15:43 ? 次閱讀

Philadelphia Media Network資深數(shù)據(jù)分析師Daniel McNichol使用R語言演示了畢達哥拉斯平均數(shù)在不同概率分布上的效果。

這篇則將在技術(shù)方面更深入一點,在一些概率分布合成的數(shù)據(jù)上探索這些平均數(shù)。接著我們將考察一些可供比較的“真實世界”大型數(shù)據(jù)集。這篇的使用的表述也會更簡短,假定讀者對高等數(shù)學和概率論有所了解。

畢達哥拉斯平均數(shù)溫習

讓我們復習一下,有3種畢達哥拉斯平均數(shù),遵循如下不等關系:

調(diào)和平均數(shù) ≤ 幾何平均數(shù) ≤ 算術(shù)平均數(shù)

僅當數(shù)據(jù)集中的所有數(shù)字都相等時,這3種平均數(shù)才相等。

算術(shù)平均數(shù)通過加法和除法得到。

幾何平均數(shù)通過乘法和開方根得到。

調(diào)和平均數(shù)通過倒數(shù)、加法、除法得到。

它們的公式為:

圖片來源:維基百科

每種平均數(shù)可以表達為另一種平均數(shù)的再配置。例如:

幾何平均數(shù)不過是數(shù)據(jù)集中的值的對數(shù)變換的算術(shù)平均數(shù)的反對數(shù)。有時它也能保留伸縮到同一分母后的算術(shù)平均數(shù)的次序。

調(diào)和平均數(shù)不過是數(shù)據(jù)集中的值的倒數(shù)的算術(shù)平均數(shù)的倒數(shù)。它也可以通過適當加權(quán)算術(shù)平均數(shù)重現(xiàn)。

經(jīng)驗規(guī)則:

算術(shù)平均數(shù)最適合相加的、線性的、對稱的、正態(tài)/高斯數(shù)據(jù)集。

幾何平均數(shù)最適合相乘的、幾何的、指數(shù)的、對數(shù)正態(tài)分布的、扭曲的數(shù)據(jù)集,以及尺度不同的比率和復合增長的比率。

調(diào)和平均數(shù)是三種畢達哥拉斯平均數(shù)中最不常見的一種,但非常適合平均以分子為單位的比率,例如行程速度,一些財經(jīng)指數(shù),從物理到棒球的一些專門應用,還有評估機器學習模型。

限制:

由于相對不那么常用,幾何平均數(shù)和調(diào)和平均數(shù)對一般受眾而言可能難以理解甚至會誤導他們。

幾何平均數(shù)是無單位(unitless)的,尺度和可解釋的單位在相乘操作中丟失了。

幾何平均數(shù)和調(diào)和平均數(shù)無法處理包含0的數(shù)據(jù)集。

詳細的討論,請參閱上篇。下面我們將查看一些實際的例子。

合成數(shù)據(jù)集

上篇中,我們在一些微不足道的數(shù)據(jù)集(等差數(shù)列和等比數(shù)列)上觀察了畢達哥拉斯平均數(shù)的效果。這里我們將查看一些更大的合成數(shù)據(jù)集(實數(shù)集上的多種概率分布)。

就相加或線性數(shù)據(jù)集而言,我們將從隨機正態(tài)分布(均值100、標準差20)中抽取10000個樣本:

hist(

rnorm( 10000, 100, 20 )

)

接著我們將模擬三種相乘數(shù)據(jù)集(盡管這些數(shù)據(jù)集具有有意義的差別,仍然常常難以區(qū)分):對數(shù)正態(tài)分布、指數(shù)分布、冪律分布。

有很多種生成對數(shù)正態(tài)分布的方法——基本上任何獨立同分布的隨機變量的乘法過程都將生成對數(shù)正態(tài)分布——這也正是它在真實世界中如此常見的原因,特別是在人類活動中。出于簡單性和可解釋性方面的考慮,我們將以歐拉數(shù)為底數(shù),以從正態(tài)分布抽取的隨機數(shù)為指數(shù),然后加上100(使取值范圍大致相當我們之前的正態(tài)分布):

hist(

exp(1)^rnorm(10000,3,.9) + 100,

breaks = 39

)

技術(shù)上說,這是指數(shù)分布的一個特例,但我們將通過R的rexp函數(shù)生成另一個指數(shù)分布,我們只需指定樣本數(shù)以及衰減率(同樣,我們在結(jié)果上加上100):

hist(

rexp(10000, 1/10) +100

)

最后,我們將從正態(tài)分布取樣底數(shù),以歐拉數(shù)為指數(shù),接著加上100,生成冪律分布:

(注意,這是對數(shù)正態(tài)方法的反向操作,在生成對數(shù)正態(tài)分布時,我們以歐拉數(shù)為底數(shù),以正態(tài)分布取樣為指數(shù))

hist(

rnorm(10000, 3, 1)^exp(1) + 100

)

接著我們將使用ggridges包以更好地繪制分布,我們也將同時加載tidyverse包,任何有教養(yǎng)的R用戶都這么干:

library(tidyverse)

library(ggridges)

dist1 <- rnorm(10000, 100, 20) %>%

tibble(x=., distribution = "normal")

dist2 <- ( exp(1)^rnorm(10000, 3, .9) + 100 ) %>%

tibble(x=., distribution = "lognormal")

dist3 <- ( rexp(10000, 1/10) + 100 ) %>%

tibble(x=., distribution = "exponential")

dist4 <- ( rnorm(10000,3,1)^exp(1) + 100 ) %>%

tibble(x=., distribution = "power law")

dists <- bind_rows(dist1, dist2, dist3, dist4)

dist_ord <- c("normal", "lognormal", "exponential", "power law")

dists <- dists %>%

mutate(distribution = fct_relevel(distribution, dist_ord))

ggplot(dists, aes(x = x, y = fct_rev(distribution), fill=..x..)) +

geom_density_ridges_gradient(quantiles = 2, scale=0.9,

color='white', show.legend = F) +

theme_minimal(base_size = 13, base_family = "sans") +

scale_y_discrete(expand = c(0.1, 0)) + xlim(0, 250) +

theme(panel.grid.major = element_line(colour = "white",

size = .3),

panel.grid.minor = element_blank(),

plot.background = element_rect(fill = "whitesmoke"),

axis.title = element_blank(), legend.position="none") +

ggtitle(label = "Distributions")

現(xiàn)在讓我們計算一些概述統(tǒng)計量。

由于R沒有內(nèi)置幾何平均數(shù)或調(diào)和平均數(shù)的函數(shù),我們需要自行定義:

# 幾何平均數(shù)函數(shù)

gm_mean = function(x, na.rm=TRUE){

exp(sum(log(x[x > 0]), na.rm=na.rm) / length(x))

}

dist_stats <- dists %>% group_by(distribution) %>%

summarise(median = median(x),

am = mean(x),

gm = gm_mean(x),

hm = 1/mean(1/x) # 調(diào)和平均數(shù)公式

)

輸出:

# A tibble: 4 x 5

distribution median am gm hm

1 normal 99.699.997.795.4

2 lognormal 120 129 127 125

3 exponential 107 110 110 109

4 power law 120 125 124 122

……在繪制的圖形上加上這些平均數(shù):

ggplot(dists, aes(x = x, y = fct_rev(distribution), fill=..x..)) +

geom_density_ridges_gradient(quantiles = 2, scale=0.9,

color='white', show.legend = F) +

theme_minimal(base_size = 13, base_family = "sans") +

scale_y_discrete(expand = c(0.1, 0)) + xlim(0, 200) +

geom_point(data = dist_stats, aes(y=distribution, x=am),

colour="green3", shape=3, size=1, stroke =2,

alpha=.9, show.legend = F) +

geom_point(data = dist_stats, aes(y=distribution, x=gm),

colour="green3", fill="green3", shape=24, size=3,

alpha=.9, show.legend = F) +

geom_point(data = dist_stats, aes(y=distribution, x=hm),

colour="green3",fill= "green3", shape=25, size=3,

alpha=.9, show.legend = F) +

geom_segment(data = dist_stats, aes(x = median, xend = median,

y = c(4,3,2,1),

yend = c(4,3,2,1) + .3),

color = "salmon", show.legend = F) +

theme(panel.grid.major = element_line(colour = "white",

size = .3),

panel.grid.minor = element_blank(),

plot.background = element_rect(fill = "whitesmoke"),

axis.title = element_blank(), legend.position="none") +

ggtitle(label = "Distributions & summary statistics",

subtitle = "| : median : harmonic mean : geometric mean : arithmetic mean")

我們立刻看到了扭曲的密度的影響,以及平均數(shù)的重尾分布以及它們和中位數(shù)的關系:

在正態(tài)分布上,由于數(shù)據(jù)分布基本上是對稱的,中位數(shù)和算術(shù)平均數(shù)幾乎相等(分別是99.6和99.9)。

在向右扭曲的其他分布上,所有平均數(shù)均位于中位數(shù)右方,靠近數(shù)據(jù)集較密集的駝峰。

不過上圖中的平均數(shù)有點擁擠,所以讓我們放大一點來看(調(diào)整xlim()):

...xlim(90, 150)...

我們再一次看到,在正態(tài)、對稱數(shù)據(jù)集上,幾何平均數(shù)和調(diào)和平均數(shù)低估了數(shù)據(jù)的“中點”,不過三個平均數(shù)大致上間隔的空間是相等的。

在對數(shù)正態(tài)分布上,中等瘦削的長尾使平均數(shù)遠離中位數(shù),甚至也扭曲了平均數(shù)的分布,使算術(shù)平均數(shù)到幾何平均數(shù)的距離比幾何平均數(shù)到調(diào)和平均數(shù)的距離更遠。

在指數(shù)分布上,數(shù)值高度密集,指數(shù)瘦削的短尾飛速衰減,使得平均數(shù)也擠作一團——盡管嚴重的扭曲仍然使它們偏離中位數(shù)。

冪律分布衰減較慢,也因此具有最肥的尾部。它的“主體”部分仍然是接近正態(tài)的,在不對稱分布中的扭曲是最輕微的。平均數(shù)之間的距離大致相等,不過仍然遠離中位數(shù)。

我之前提到過幾何平均數(shù)和算術(shù)平均數(shù)之間的對數(shù)關系:

幾何平均數(shù)不過是數(shù)據(jù)集中的值的對數(shù)變換的算術(shù)平均數(shù)的反對數(shù)。

為了驗證這一點,讓我們再看一看我們的概述統(tǒng)計量表格:

# A tibble: 4 x 5

distribution median am gm hm

1 normal 99.699.997.795.4

2 lognormal 120 129 127 125

3 exponential 107 110 110 109

4 power law 120 125 124 122

注意我們的對數(shù)正態(tài)分布的幾何平均數(shù)是127.

現(xiàn)在我們計算對數(shù)變換值的算術(shù)平均數(shù):

dist2$x %>% log() %>% mean()

輸出:

4.84606

取反對數(shù):

exp(1)^4.84606

輸出:

127.2381

現(xiàn)在,為了把這一點講透徹,讓我們看看為什么會這樣(以及對數(shù)正態(tài)是如何得名的):

減去我們原本加上的100,然后取對數(shù):

(dist2$x — 100) %>% log() %>% hist()

名副其實,對數(shù)正態(tài)分布的對數(shù)變換將產(chǎn)生正態(tài)分布。因此,正態(tài)分布中以相加為基礎的算術(shù)平均數(shù)的結(jié)果與對數(shù)正態(tài)分布中以相乘為本質(zhì)的幾何平均數(shù)的結(jié)果是一致的。

我們不應該對對數(shù)正態(tài)分布的數(shù)據(jù)集經(jīng)過對數(shù)變換得到的無可挑剔的正態(tài)分布過于印象深刻,畢竟我們在指定生成對數(shù)正態(tài)分布值的具體數(shù)據(jù)生成過程時就使用了正態(tài)分布,我們現(xiàn)在不過是反向操作以重現(xiàn)底層的正態(tài)分布而已。

現(xiàn)實世界中的事情很少如此整潔,現(xiàn)實世界的生成過程通常更復雜,是未知的,或者不可知的。因此如何建模和描述得自經(jīng)驗的數(shù)據(jù)集充滿了困惑和爭議。

讓我們查看一些這樣的數(shù)據(jù)集,了解下真實世界的煩惱。

真實世界數(shù)據(jù)

盡管通常不像模擬數(shù)據(jù)那樣溫順,真實世界數(shù)據(jù)集通常至少再現(xiàn)了上述四種分布中的一種。

正態(tài)分布——喧鬧的“鐘形曲線”——最常出現(xiàn)在自然、生物場景中。身高和體重是經(jīng)典的例子。因此,我們的第一直覺是看看可信賴的iris數(shù)據(jù)集。它確實滿足要求,但樣本數(shù)有點小(數(shù)據(jù)集中單種花卉的樣本數(shù)為50)。我想要更大的數(shù)據(jù)集。

所以讓我們加載bigrquery包:

library(bigrquery)

Google的BigQuery提供了眾多真實數(shù)據(jù)的公開數(shù)據(jù)集,其中一些非常大,例如基因、專利、維基百科文章數(shù)據(jù)。

回到我們最初的目標,natality(譯者注:natality意為出生率)看起來就很生物:

project <- “YOUR-PROJECT-ID”

sql <- “SELECT COUNT(*)

FROM `bigquery-public-data.samples.natality`”

query_exec(sql, project = project, use_legacy_sql = F)

(提示:由于有海量數(shù)據(jù),因此你可能需要為訪問數(shù)據(jù)付費,不過每個月前1TB的數(shù)據(jù)訪問是免費的。另外,盡管出于明顯的原因,強烈不推薦使用SELECT *,SELECT COUNT(*)卻是一項免費的操作,使用它確定范圍是個好主意。)

輸出:

137826763

一億三千七百萬嬰兒數(shù)據(jù)!我們用不了這么多,所以讓我們隨機取樣1%嬰兒的體重,獲取前一百萬結(jié)果:

sql <- “SELECT weight_pounds

FROM `bigquery-public-data.samples.natality`

WHERE RAND() < .01”

natal <- query_exec(sql, project = project, use_legacy_sql = F,

max_pages = 100)

hist(natal$weight_pounds)生成:

至少在我看來這是正態(tài)分布。

現(xiàn)在讓我們找找有些扭曲的相乘數(shù)據(jù),讓我們從生物學轉(zhuǎn)向社會學。

我們將查看New York(紐約)數(shù)據(jù)集,其中包含各種城市信息,包括黃色出租車和綠色出租車的行程信息(譯者注:紐約的出租車分為黃、綠兩種,兩者允許接客區(qū)域不同)。

sql <- “SELECT COUNT(*)

FROM `nyc-tlc.green.trips_2015`”

query_exec(sql, project = project, use_legacy_sql = F)

輸出:

9896012

不到一千萬條記錄,所以讓我們抓取所有的行程距離:

(這可能需要花費一點時間)

sql <- "SELECT trip_distance FROM `nyc-tlc.green.trips_2015`"

trips <- query_exec(sql, project = project, use_legacy_sql = F)

hist(trips$trips_distance)

-_-

看起來一些極端的離散值將我們的x軸拉到了八百英里開外。對出租車而言,這也太遠了。讓我們移除這些離散值,將距離限定至20英里:

trips$trip_distance %>% subset(. <= 20) %>% hist()

我們做到了,得到了對數(shù)正態(tài)分布標志性的長尾。讓我們驗證一下分布的對數(shù)正態(tài)性,繪制對數(shù)的直方圖:

trips$trip_distance %>% subset(. <= 20) %>% log() %>% hist()

明顯有正態(tài)分布的樣子,不過偏離了一點靶心,有一點向左扭曲。哎呀,真實世界就是這樣的。不過我們有把握說,應用對數(shù)正態(tài)分布至少不算荒謬。

讓我們繼續(xù)前行。尋找更重尾分布的數(shù)據(jù)。這次我們將使用Github數(shù)據(jù)集:

sql <- "SELECT COUNT(*)

FROM `bigquery-public-data.samples.github_nested`"

query_exec(sql, project = project, use_legacy_sql = F)

輸出:

2541639

二百五十萬項記錄。我開始為本地機器的內(nèi)存擔心了,所以我將通過隨機取樣去掉一半數(shù)據(jù),然后查看剩余代碼倉庫的關注數(shù)(watchers):

sql <- “SELECT repository.watchers

FROM `bigquery-public-data.samples.github_nested`

WHERE RAND() < .5”

github <- query_exec(sql, project = project, use_legacy_sql = F,

max_pages = 100)

github$watchers %>% hist()

極端的長尾,所以讓我們移除過低和過高的關注數(shù):

github$watchers %>% subset(5 < . & . < 3000) %>% hist()

這是指數(shù)分布。

但是它是不是同時也是對數(shù)正態(tài)分布?

github$watchers %>% subset(5 < . & . < 3000) %>% log() %>% hist()

否。

不過我們看到了一頭珍稀的野獸:(逼近)LogUniform分布!

讓我們再從大數(shù)據(jù)中抽取一次,這次我們將查看Hacker News帖子的評分:

sql <- “SELECT COUNT(*)

FROM `bigquery-public-data.hacker_news.full`”

query_exec(sql, project = project, use_legacy_sql = F)

輸出:

16489224

我們抽取前10%的樣本:

sql <- “SELECT score

FROM `bigquery-public-data.hacker_news.full`

WHERE RAND() < .1”

hn <- query_exec(sql, project = project, use_legacy_sql = F,

max_pages = 100)

hn$score %>% hist()

同樣,我們截取中間部分的評分:

hn$score %>% subset(10 < . & . <= 300) %>% hist()

截取中間部分后,衰減得慢了??纯磳?shù)變換的結(jié)果?

hn$score %>% subset(10 < . & . <= 300) %>% log() %>% hist()

同樣大致是右向衰減的LogUniform分布。

我對冪律分布的搜尋沒有得到結(jié)果,這也許并不值得驚訝,畢竟冪律分布最常出現(xiàn)在網(wǎng)絡科學中(甚至,即使在網(wǎng)絡科學中,冪律分布看起來也比最初宣稱的要罕見)。

不管怎么說,讓我們也像模擬分布那樣繪制真實數(shù)據(jù)集的分布圖,并加以對比。同樣,我們將對其加以標準化,使其位于100左右。

# 定制標準化函數(shù)

normalize = function(x, na.rm = T){

(x-min(x[!is.na(x)]))/(max(x[!is.na(x)])-min(x[!is.na(x)]))

}

rndist1 <- (normalize(natality$weight_pounds) + 100) %>%

tibble(x=., distribution = "natal weights")

trip_trim <- trips$trip_distance %>% subset(. <= 20)

rndist2 <- (normalize(trip_trim) + 100) %>%

tibble(x=., distribution = "nyc green cab trips")

git_trim <- github$watchers %>% subset(5 < . & . < 3000)

rndist3 <- (normalize(git_trim) + 100) %>%

tibble(x=., distribution = "github watchers")

hn_trim <- hn$score %>% subset(10 < . & . <= 300)

rndist4 <- (normalize(hn_trim) + 100) %>%

tibble(x=., distribution = "hacker news scores")

rndists <- bind_rows(rndist1, rndist2, rndist3, rndist4)

rndist_ord <- c("natal weights", "nyc green cab trips",

"github watchers", "hacker news scores")

rndists <- rndists %>%

mutate(distribution = fct_relevel(distribution, rndist_ord))

ggplot(rndists, aes(x = x, y = fct_rev(distribution), fill=..x..)) +

geom_density_ridges_gradient(quantiles = 2, scale=0.9,

color='white', show.legend = F) +

theme_minimal(base_size = 13, base_family = "sans") +

scale_y_discrete(expand = c(0.1, 0)) + xlim(99.5, 101) +

theme(panel.grid.major = element_line(colour = "white", size = .3),

panel.grid.minor = element_blank(),

plot.background = element_rect(fill = "whitesmoke"),

axis.title = element_blank(), legend.position="none") +

ggtitle(label = "Distributions")

由于來自真實世界,和模擬分布相比,邊緣更加粗糙不平。不過仍然看起來相似。讓我們用Thomas Lin Pedersen的patchwork包繪制模擬分布和真實分布的對比圖:

# 將圖形分配給對象

p1 <-ggplot(dists, aes(x = x, y = fct_rev(distribution), fill=..x..)) +

geom_density_ridges_gradient(quantiles = 2, scale=0.9,

color='white', show.legend = F) +

theme_minimal(base_size = 13, base_family = "sans") +

scale_y_discrete(expand = c(0.1, 0)) + xlim(0, 250) +

theme(panel.grid.major = element_line(colour = "white", size = .3),

panel.grid.minor = element_blank(),

plot.background = element_rect(fill = "whitesmoke"),

axis.title = element_blank(), legend.position="none") +

ggtitle(label = "Distributions")

p2 <- ggplot(rndists, aes(x = x, y = fct_rev(distribution), fill=..x..)) +

geom_density_ridges_gradient(quantiles = 2, scale=0.9,

color='white', show.legend = F) +

theme_minimal(base_size = 13, base_family = "sans") +

scale_y_discrete(expand = c(0.1, 0)) + xlim(99.5, 101) +

theme(panel.grid.major = element_line(colour = "white", size = .3),

panel.grid.minor = element_blank(),

plot.background = element_rect(fill = "whitesmoke"),

axis.title = element_blank(), legend.position="none") +

ggtitle(label = "Distributions")

# 直接將圖形對象相加

p1 + p2

總體來看,模擬分布將為相鄰的真實數(shù)據(jù)集提供合理的模型,除了冪律 -> HackerNews評分這一對例外。

當然有很多模型擬合方面的嚴謹測試,不過讓我們直接在分布上繪制概述統(tǒng)計量,就像我們之前做的那樣。

不幸的是,標準化的真實世界數(shù)據(jù)扭曲了概述統(tǒng)計量計算,使得結(jié)果多多少少難以區(qū)分。我懷疑這可能是因為計算機的浮點計算精度問題(不過也可能只是因為我自己在數(shù)值計算上犯了錯誤)。我不得不使用未標準化的真實世界數(shù)據(jù)單獨繪制,然后嘗試手工對齊。

讓我們組合未標準化的分布,然后計算概述性數(shù)據(jù):

# 未標準化

rdist1 <- natality$weight_pounds ?%>%

tibble(x=., distribution = "natal weights")

rdist2 <- trips$trip_distance %>% subset(. <= 20) %>%

tibble(x=., distribution = "nyc green cab trips")

rdist3 <- github$watchers %>% subset(5 < . & . < 3000) %>%

tibble(x=., distribution = "github watchers")

rdist4 <- hn$score %>% subset(10 < . & . <= 300) %>%

tibble(x=., distribution = "hacker news scores")

rdists <- bind_rows(rdist1, rdist2, rdist3, rdist4)

rdist_ord <- c("natal weights", "nyc green cab trips",

"github watchers", "hacker news scores")

rdists <- rdists %>%

mutate(distribution = fct_relevel(distribution, rdist_ord))

rdist_stats <- rdists %>% group_by(distribution) %>%

summarise(median = median(x, na, na.rm = T),

am = mean(x, na.rm = T),

gm = gm_mean2(x[x>0]),

hm = 1/mean(1/x[x>0], na.rm = T))

現(xiàn)在讓我們繪圖(這很丑陋因為我們需要為每個真實分布創(chuàng)建單獨的圖形,好在patchwork讓我們可以優(yōu)雅地定義布局):

# 模擬分布的繪圖和之前一樣

pm1 <- ggplot(dists, aes(x = x, y = fct_rev(distribution), fill=..x..)) +

geom_density_ridges_gradient(quantiles = 2, scale=0.9,

color='white', show.legend = F) +

theme_minimal(base_size = 13, base_family = "sans") +

scale_y_discrete(expand = c(0.1, 0)) + xlim(0, 250) +

geom_point(data = dist_stats, aes(y=distribution, x=am),

colour="green3", shape=3, size=1, stroke =2,

alpha=.9, show.legend = F) +

geom_point(data = dist_stats, aes(y=distribution, x=gm),

colour="green3", fill="green3", shape=24, size=3,# stroke = 1,

alpha=.9, show.legend = F) +

geom_point(data = dist_stats, aes(y=distribution, x=hm),

colour="green3",fill= "green3", shape=25, size=3,# stroke = 1,

alpha=.9, show.legend = F) +

geom_segment(data = dist_stats, aes(x = median, xend = median,

y = c(4,3,2,1),

yend = c(4,3,2,1) + .3),

color = "salmon", show.legend = F)+

theme(panel.grid.major = element_line(colour = "white", size = .3),

panel.grid.minor = element_blank(),

plot.background = element_rect(fill = "whitesmoke"),

axis.title = element_blank(), legend.position="none") +

ggtitle(label = "Distributions & summary statistics",

subtitle = "| : median : harmonic mean : geometric mean : arithmetic mean")

# 真實數(shù)據(jù)

p3 <- ?ggplot(rdist1, aes(x = x, y = distribution, fill = ..x..)) +

geom_density_ridges_gradient(quantiles = 2, scale=0.9,

color='white', show.legend = F) +

theme_minimal(base_size = 13, base_family = "sans") +

scale_y_discrete(expand = c(0.1, 0)) + #xlim(3, 11) +

geom_point(data = rdist_stats[1,], aes(y=distribution, x=am),

colour="green3", shape=3, size=1, stroke =2,

alpha=.9, show.legend = F) +

geom_point(data = rdist_stats[1,], aes(y=distribution, x=gm),

colour="green3", fill="green3", shape=24, size=3,# stroke = 1,

alpha=.9, show.legend = F) +

geom_point(data = rdist_stats[1,], aes(y=distribution, x=hm),

colour="green3",fill= "green3", shape=25, size=3,# stroke = 1,

alpha=.9, show.legend = F) +

geom_segment(data = rdist_stats[1,], aes(x = median, xend = median,

y = 1,

yend = 1 + .3),

color = "salmon", show.legend = F)+

theme(panel.grid.major = element_line(colour = "white", size = .3),

panel.grid.minor = element_blank(),

plot.background = element_rect(fill = "whitesmoke"),

axis.title = element_blank(), legend.position="none",

axis.text.x=element_blank())

p4 <- ?ggplot(rdist2, aes(x = x, y = distribution, fill = ..x..)) +

geom_density_ridges_gradient(quantiles = 2, scale=0.9,

color='white', show.legend = F) +

theme_minimal(base_size = 13, base_family = "sans") +

scale_y_discrete(expand = c(0.1, 0)) + #xlim(-1, 4) +

geom_point(data = rdist_stats[2,], aes(y=distribution, x=am),

colour="green3", shape=3, size=1, stroke =2,

alpha=.9, show.legend = F) +

geom_point(data = rdist_stats[2,], aes(y=distribution, x=gm),

colour="green3", fill="green3", shape=24, size=3,# stroke = 1,

alpha=.9, show.legend = F) +

geom_point(data = rdist_stats[2,], aes(y=distribution, x=hm),

colour="green3",fill= "green3", shape=25, size=3,# stroke = 1,

alpha=.9, show.legend = F) +

geom_segment(data = rdist_stats[2,], aes(x = median, xend = median,

y = 1,

yend = 1 + .3),

color = "salmon", show.legend = F)+

theme(panel.grid.major = element_line(colour = "white", size = .3),

panel.grid.minor = element_blank(),

plot.background = element_rect(fill = "whitesmoke"),

axis.title = element_blank(), legend.position="none",

axis.text.x=element_blank())

p5 <- ?ggplot(rdist3, aes(x = x, y = distribution, fill = ..x..)) +

geom_density_ridges_gradient(quantiles = 2, scale=200,

color='white', show.legend = F) +

theme_minimal(base_size = 13, base_family = "sans") +

scale_y_discrete(expand = c(0.1, 0)) + #xlim(20, 450) +

geom_point(data = rdist_stats[3,], aes(y=distribution, x=am),

colour="green3", shape=3, size=1, stroke =2,

alpha=.9, show.legend = F) +

geom_point(data = rdist_stats[3,], aes(y=distribution, x=gm),

colour="green3", fill="green3", shape=24, size=3,# stroke = 1,

alpha=.9, show.legend = F) +

geom_point(data = rdist_stats[3,], aes(y=distribution, x=hm),

colour="green3",fill= "green3", shape=25, size=3,# stroke = 1,

alpha=.9, show.legend = F) +

geom_segment(data = rdist_stats[3,], aes(x = median, xend = median,

y = 1,

yend = 1 + .3),

color = "salmon", show.legend = F)+

theme(panel.grid.major = element_line(colour = "white", size = .3),

panel.grid.minor = element_blank(),

plot.background = element_rect(fill = "whitesmoke"),

axis.title = element_blank(), legend.position="none",

axis.text.x=element_blank())

p6 <- ?ggplot(rdist4, aes(x = x, y = distribution, fill = ..x..)) +

geom_density_ridges_gradient(quantiles = 2, scale=40,

color='white', show.legend = F) +

theme_minimal(base_size = 13, base_family = "sans") +

scale_y_discrete(expand = c(.01, 0)) + #xlim(0, 100) +

geom_point(data = rdist_stats[4,], aes(y=distribution, x=am),

colour="green3", shape=3, size=1, stroke =2,

alpha=.9, show.legend = F) +

geom_point(data = rdist_stats[4,], aes(y=distribution, x=gm),

colour="green3", fill="green3", shape=24, size=3,# stroke = 1,

alpha=.9, show.legend = F) +

geom_point(data = rdist_stats[4,], aes(y=distribution, x=hm),

colour="green3",fill= "green3", shape=25, size=3,# stroke = 1,

alpha=.9, show.legend = F) +

geom_segment(data = rdist_stats[4,], aes(x = median, xend = median,

y = 1,

yend = 1 + .3),

color = "salmon", show.legend = F)+

theme(panel.grid.major = element_line(colour = "white", size = .3),

panel.grid.minor = element_blank(),

plot.background = element_rect(fill = "whitesmoke"),

axis.title = element_blank(), legend.position="none")

# 魔法般的patchwork布局語法

pm1 | (p3 / p4 / p5 / p6)

有趣的是,我們的真實世界數(shù)據(jù)集的概述統(tǒng)計量看起來明顯比模擬分布上更為分散。讓我們放大一點看看。

為了節(jié)省篇幅,我這里不會重復粘貼代碼,基本上我不過是修改了pm1的xlim(90, 150),并且去掉了上述代碼中的xlim()行的注釋:

放大后對比更鮮明了。

我們對模擬和真實世界分布上的畢達哥拉斯平均數(shù)的探索到此為止。

如果你還沒有看過上篇,可以看一下,上篇給出了一個更明確、更直觀的介紹。同時,別忘了參考后面給出的鏈接和進一步閱讀。

另外,如果你想讀到更多這樣的文章,可以在Twitter、LinkedIn、Github上關注我(我在上面的用戶名都是dnlmc)。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 概率
    +關注

    關注

    0

    文章

    17

    瀏覽量

    13012
  • 算術(shù)
    +關注

    關注

    0

    文章

    12

    瀏覽量

    7368
  • 數(shù)據(jù)集

    關注

    4

    文章

    1200

    瀏覽量

    24621

原文標題:平均而言,你用的是錯誤的平均數(shù)(下):平均數(shù)與概率分布

文章出處:【微信號:jqr_AI,微信公眾號:論智】歡迎添加關注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關推薦

    新手求助:請問怎么將數(shù)組中每100個數(shù),求平均數(shù)

    本人是個菜鳥。。。請教各位大神。。。十分感謝?。。∽詫Wlabview一段時間。。。但是感覺完全摸不到頭腦。。。比如:大小為10000的數(shù)組,怎樣讓每100個求平均數(shù),然后輸出一個100的數(shù)組。。。非常感謝!?。?/div>
    發(fā)表于 03-06 14:12

    新手求助:請問怎么將數(shù)組中每隔n個數(shù)平均數(shù)

    本人是菜鳥,遇到了一個比較棘手的問題例如:一個大小為n*m的數(shù)組怎樣求每隔n個數(shù)值的平均數(shù),然后輸出一個大小為m的數(shù)組。非常感謝?。。。。。?!
    發(fā)表于 03-07 21:08

    怎么查詢平均數(shù)

    嗨,我知道我可以通過ACQUISITION來判斷平均值是否已經(jīng)開啟:平均值和最大平均值數(shù)量ACQUISITION:AVERAGE:COUNT。有沒有辦法查詢當前收集的平均數(shù)(例如,自
    發(fā)表于 11-13 10:30

    如何實現(xiàn)c++自動輸出平均數(shù)?

    題目:通過輸入5個學生的成績,當輸入學生成績數(shù)目為5時,實現(xiàn)自動輸出平均數(shù)操作,想了很久用while()和for()沒能實現(xiàn),求助攻??!#includeusing namespace std;int
    發(fā)表于 10-10 04:21

    求無符號數(shù)的平均數(shù)

    求無符號數(shù)的平均數(shù)文章目錄題目重述問題分析以及求解思路程序代碼題目重述試求內(nèi)部RAM30H~37H單元中8個無符號數(shù)的算術(shù)平均值,結(jié)果存入38H。問題分析以及求解思路待完善(請耐心等待)程序代碼
    發(fā)表于 12-01 08:01

    如何操作多臺過采樣數(shù)據(jù)轉(zhuǎn)換器的詳細資料概述

     本文的主要內(nèi)容介紹的是TI的資料如何操作多臺過采樣數(shù)據(jù)轉(zhuǎn)換器的詳細資料概述
    發(fā)表于 05-29 16:15 ?5次下載
    如何操作多臺過采樣<b class='flag-5'>數(shù)據(jù)</b>轉(zhuǎn)換器的<b class='flag-5'>詳細資料</b><b class='flag-5'>概述</b>

    LabVIEW在信捷PLC通訊的應用詳細資料概述

    本文檔詳細介紹的是LabVIEW在信捷PLC通訊的應用詳細資料概述
    發(fā)表于 06-07 08:00 ?323次下載

    如何在開發(fā)板實現(xiàn)交通燈模擬的詳細資料概述

    本文檔的主要內(nèi)容詳細介紹的是如何在開發(fā)板實現(xiàn)交通燈模擬的詳細資料概述
    發(fā)表于 06-19 08:00 ?3次下載

    幾何平均數(shù)和調(diào)和平均數(shù)是什么?有什么作用?詳細資料討論

    你有一組數(shù)字。你希望用更少的數(shù)字概括它們,最好是只用一個數(shù)字。因此,你將這組數(shù)字加起來,然后除以數(shù)字的數(shù)目。哇,你得到了“平均數(shù)”,沒錯吧?
    的頭像 發(fā)表于 07-19 15:52 ?5.3w次閱讀
    幾何<b class='flag-5'>平均數(shù)</b>和調(diào)和<b class='flag-5'>平均數(shù)</b>是什么?有什么作用?<b class='flag-5'>詳細資料</b>討論

    SV601187的詳細資料合集包括了電路圖,原理圖和介紹等詳細資料概述

    本文檔的主要內(nèi)容詳細介紹的是SV601187的詳細資料合集包括了電路圖,原理圖和介紹等詳細資料概述
    發(fā)表于 07-30 08:00 ?18次下載
    SV601187的<b class='flag-5'>詳細資料</b>合集包括了電路圖,原理圖和介紹等<b class='flag-5'>詳細資料</b><b class='flag-5'>概述</b>

    組態(tài)王與數(shù)據(jù)庫連接的實現(xiàn)方法詳細資料概述

    本文檔的主要內(nèi)容詳細介紹的是組態(tài)王與數(shù)據(jù)庫連接的實現(xiàn)方法詳細資料概述。
    發(fā)表于 10-31 08:00 ?21次下載
    組態(tài)王與<b class='flag-5'>數(shù)據(jù)</b>庫連接的實現(xiàn)方法<b class='flag-5'>詳細資料</b><b class='flag-5'>概述</b>

    python的內(nèi)置函數(shù)詳細資料概述

    本文檔的主要內(nèi)容詳細介紹的是python的內(nèi)置函數(shù)詳細資料概述
    發(fā)表于 11-18 08:00 ?0次下載

    CAN總線基礎的詳細資料概述

    本文檔的主要內(nèi)容詳細介紹的是CAN總線基礎的詳細資料概述包括了:概述,汽車總線與CAN標準,CAN的通信機制,數(shù)據(jù)幀,錯誤檢測與錯誤幀,CA
    發(fā)表于 11-29 15:31 ?121次下載
    CAN總線基礎的<b class='flag-5'>詳細資料</b><b class='flag-5'>概述</b>

    EMC HF墊圈的詳細資料概述

    本文檔的主要內(nèi)容詳細介紹的是EMC HF墊圈的詳細資料概述免費下載。
    發(fā)表于 09-07 08:00 ?0次下載
    EMC HF墊圈的<b class='flag-5'>詳細資料</b><b class='flag-5'>概述</b>

    ADRF5144: 10 W平均數(shù),硅SPDT,反射開關,1千赫至20千兆赫數(shù)據(jù)表 ADI

    開關,1千赫至20千兆赫數(shù)據(jù)表的引腳圖、接線圖、封裝手冊、中文資料、英文資料,ADRF5144: 10 W平均數(shù),硅SPDT,反射開關,1千赫至20千兆赫
    發(fā)表于 10-11 18:48
    ADRF5144: 10 W<b class='flag-5'>平均數(shù)</b>,硅SPDT,反射開關,1千赫至20千兆赫<b class='flag-5'>數(shù)據(jù)</b>表 ADI