什么是高通量計(jì)算機(jī)

高性能計(jì)算在傳統(tǒng)的科學(xué)與工程計(jì)算類應(yīng)用中的特點(diǎn)包括：任務(wù)單一，負(fù)載變化不頻繁，單個(gè)任務(wù)計(jì)算量大，以及計(jì)算局部性好。而高通量計(jì)算在數(shù)據(jù)中心的應(yīng)用則主要面向互聯(lián)網(wǎng)、物聯(lián)網(wǎng)等新興場(chǎng)景，其特點(diǎn)是：任務(wù)多樣，單個(gè)任務(wù)往往具有流式計(jì)算特征；計(jì)算量相對(duì)不大，但任務(wù)的并發(fā)數(shù)量及數(shù)據(jù)規(guī)模巨大；以及處理要求具有實(shí)時(shí)性。

傳統(tǒng)高性能計(jì)算機(jī)的研制目標(biāo)是提高速度，即縮短單個(gè)并行計(jì)算任務(wù)的運(yùn)行時(shí)間；而數(shù)據(jù)中心類應(yīng)用系統(tǒng)的目標(biāo)是高通量，即提高單位時(shí)間內(nèi)任務(wù)或數(shù)據(jù)處理的吞吐量。這種以“算得多”為性能指標(biāo)的高性能計(jì)算機(jī)被稱為高通量計(jì)算機(jī)。如果給高通量計(jì)算機(jī)一個(gè)定義，那么可以這么描述：高通量計(jì)算機(jī)是適用于互聯(lián)網(wǎng)大數(shù)據(jù)等新興應(yīng)用負(fù)載特征的、在強(qiáng)時(shí)間約束下能夠全局可控地處理高并發(fā)請(qǐng)求的新型高性能計(jì)算機(jī)。其核心特點(diǎn)是對(duì)并發(fā)性、實(shí)時(shí)性和確定性的保障。

高通量計(jì)算機(jī)和傳統(tǒng)的高性能計(jì)算機(jī)在目標(biāo)應(yīng)用、計(jì)算特征和設(shè)計(jì)目標(biāo)等方面都存在明確的區(qū)別（表?1）。然而，由于高性能計(jì)算由來已久，目前主流的通用計(jì)算機(jī)和高端計(jì)算系統(tǒng)的發(fā)展都深受其影響，這也使得當(dāng)前數(shù)據(jù)中心主流的計(jì)算系統(tǒng)在針對(duì)網(wǎng)絡(luò)服務(wù)這種高并發(fā)、強(qiáng)實(shí)時(shí)的高通量應(yīng)用時(shí)表現(xiàn)出諸多不足。為了進(jìn)一步理解高通量應(yīng)用對(duì)計(jì)算機(jī)體系結(jié)構(gòu)的需求，我們基于當(dāng)前主流的高性能服務(wù)器（采用Intel Xeon CPU）對(duì)典型高通量應(yīng)用進(jìn)行了測(cè)試，并且發(fā)現(xiàn)了以下一些問題。

緩存資源浪費(fèi)。CPU上的共享緩存（cache）缺失率很高，這說明高通量應(yīng)用與傳統(tǒng)高性能計(jì)算應(yīng)用的數(shù)據(jù)訪問特征有明顯區(qū)別，傳統(tǒng)的多級(jí)緩存設(shè)計(jì)并不適合。從面積和功耗的角度來衡量的話，共享緩存作用不大，但卻占用了大量的片上面積（在?Intel?的主流服務(wù)器芯片中，片上存儲(chǔ)所占面積通常高達(dá)?30％?以上），產(chǎn)生了大量的功耗。

內(nèi)存帶寬利用率低。CPU?在?70％?以上使用率時(shí)的壓力測(cè)試下，內(nèi)存帶寬的有效使用率通常也不到?10％。這說明，在高通量應(yīng)用負(fù)載下，傳統(tǒng)計(jì)算機(jī)體系結(jié)構(gòu)設(shè)計(jì)下的內(nèi)存帶寬并沒有得到有效利用。

服務(wù)質(zhì)量難以保障。當(dāng)增加任務(wù)的并發(fā)負(fù)載，使得?CPU?利用率維持在較高水平時(shí)，我們發(fā)現(xiàn)應(yīng)用的完成時(shí)間迅速拉長(zhǎng)，也即系統(tǒng)的尾延遲明顯增大，從而導(dǎo)致延遲敏感應(yīng)用大量失效。因此，在傳統(tǒng)服務(wù)器系統(tǒng)上，要想獲得好的用戶體驗(yàn)，必須把硬件利用率維持在較低水平。

通過上述實(shí)驗(yàn)結(jié)果我們可以看到，現(xiàn)有的高性能計(jì)算機(jī)系統(tǒng)的設(shè)計(jì)并不能很好地滿足高通量應(yīng)用的新特性。因此，需要開展新型的高通量計(jì)算體系結(jié)構(gòu)的研究。

相關(guān)文章