從冬奧會(huì)開(kāi)幕式超強(qiáng)特效看應(yīng)用低延遲的必要性

隨著備受矚目的冬奧會(huì)順利召開(kāi)，相信大家對(duì)美輪美奐的開(kāi)幕式會(huì)贊嘆不已，俗話說(shuō)外行看熱鬧，內(nèi)行看門(mén)道，今天小編就來(lái)談一下開(kāi)幕式中跟低延遲相關(guān)的一點(diǎn)東西。

先來(lái)看一個(gè)來(lái)自英特爾中國(guó)的微博消息：

相信很多觀眾在沒(méi)看到這個(gè)消息前都會(huì)以為那個(gè)冰隨人動(dòng)的特效是事先做好的，只是和現(xiàn)場(chǎng)演員對(duì)下時(shí)間軸，結(jié)果英特爾這一揭秘不免讓人大吃一驚，這些竟然都是實(shí)時(shí)的。還有更牛的事在后邊，現(xiàn)場(chǎng)的檢測(cè)延遲和管線延遲竟然達(dá)到了驚人的10ms和46ms。

什么是延遲？

在計(jì)算機(jī)系中中所說(shuō)的延遲，一般是指生成和返回響應(yīng)之前的時(shí)間延遲。通常有以下幾種來(lái)源：

網(wǎng)絡(luò) I/O

磁盤(pán) I/O

運(yùn)行環(huán)境

程序代碼

一般情況下，對(duì)于基礎(chǔ)資源產(chǎn)生的延遲是取決于對(duì)應(yīng)的設(shè)備或系統(tǒng)的技術(shù)水平，像英特爾展示的冬奧會(huì)開(kāi)幕式的數(shù)據(jù)中心就采用了大量的新技術(shù)來(lái)降低這個(gè)延遲。而對(duì)于多數(shù)人來(lái)講，降低應(yīng)用的延遲最可行的還是從優(yōu)化程序代碼來(lái)入手。

在軟件領(lǐng)域，有許多類型的延遲。沒(méi)有應(yīng)用程序可能是真正實(shí)時(shí)的即：零延遲（在程序啟動(dòng)和結(jié)果交付之間經(jīng)過(guò)的時(shí)間為零）。盡管如此，所有高性能應(yīng)用程序的目標(biāo)都是盡可能接近實(shí)時(shí)。甚至 Gartner 對(duì)零延遲的定義也承認(rèn)延遲實(shí)際上永遠(yuǎn)不可能為零，因?yàn)橛?jì)算機(jī)需要時(shí)間來(lái)“思考”。

軟件延遲示例

下面是一個(gè)簡(jiǎn)單的圖形示例，說(shuō)明典型高性能應(yīng)用程序的延遲情況。我們通常會(huì)發(fā)現(xiàn)應(yīng)用的延遲大多會(huì)在一個(gè)狹窄的范圍內(nèi)變化，但是偶爾會(huì)出現(xiàn)非常高的延遲。對(duì)于高性能應(yīng)用程序，按分位數(shù)對(duì)延遲進(jìn)行分組通常會(huì)產(chǎn)生類似于以下的圖：

Y 軸表示程序的延遲時(shí)間，X 軸是將一段時(shí)間內(nèi)的所有分組為分位數(shù)的結(jié)果。藍(lán)線是每個(gè)分位數(shù)的延遲，橙線是平均延遲。

如果只看平均延遲，你可能會(huì)想“應(yīng)用程序做得很好啊，大部分時(shí)間都低于平均值！”這就是問(wèn)題所在。如果應(yīng)用程序在大多數(shù)情況下具有可接受的延遲，但有時(shí)會(huì)出現(xiàn)極端延遲，你的業(yè)務(wù)可能會(huì)受影響。

如果你的客戶在每次使用產(chǎn)品時(shí)都非?？焖俚匦枰a(chǎn)品的結(jié)果，但有時(shí)他們會(huì)因長(zhǎng)時(shí)間的等待而陷入困境，他們會(huì)轉(zhuǎn)向你的競(jìng)爭(zhēng)對(duì)手，即使競(jìng)爭(zhēng)對(duì)手的平均延遲可能比你的應(yīng)用高。

例如：金融交易、考試報(bào)名、線上購(gòu)物、實(shí)時(shí)交互等場(chǎng)景都要求具有高性能+低延遲的應(yīng)用。

一個(gè)真實(shí)的案例

某國(guó)家級(jí)考試主管單位在一次考試報(bào)名的當(dāng)天，系統(tǒng)發(fā)生故障導(dǎo)致大量的用戶無(wú)法登錄。

通過(guò)基調(diào)聽(tīng)云APM工具發(fā)現(xiàn)，當(dāng)時(shí)的所有事務(wù)都出現(xiàn)了超時(shí)現(xiàn)象：

進(jìn)一步分析，能夠看到當(dāng)時(shí)數(shù)據(jù)庫(kù)是最大的瓶頸：

接著根據(jù)提示，一步步確認(rèn)問(wèn)題的位置，著手解決，包括：優(yōu)化SQL、優(yōu)化代碼等等。一番操作下來(lái)，系統(tǒng)表現(xiàn)有了巨大的改變。

1、應(yīng)用平均響應(yīng)時(shí)間大幅縮短

2、數(shù)庫(kù)執(zhí)行時(shí)間大幅縮短

3、報(bào)名完成時(shí)間大幅提前

類似北京、上海這種城市的報(bào)名，以往需要近1分鐘時(shí)間完成，優(yōu)化后平均4.5秒完成報(bào)名。

總結(jié)

由此可見(jiàn)，低延遲對(duì)于任何應(yīng)用程序在業(yè)務(wù)上取得成功都至關(guān)重要，好在我們可以通過(guò)APM工具來(lái)做性能的監(jiān)控與分析。基調(diào)聽(tīng)云多年來(lái)致力于提供優(yōu)質(zhì)的APM解決方案，也曾多次獲得權(quán)威機(jī)構(gòu)Gartner的認(rèn)可，歡迎聯(lián)系我們了解更多關(guān)于APM的信息。

審核編輯：符乾江