AMD在AI性能領(lǐng)先英特爾，Lunar Lake或扭轉(zhuǎn)戰(zhàn)局

4 月 7 日訊，AMD 最新公布了一系列基準(zhǔn)測(cè)試，宣稱其銳龍移動(dòng)版 7040 Phoenix 和 8040 系列處理器在運(yùn)行大型語言模型 （LLM） 領(lǐng)域的效能領(lǐng)先于 Intel 最新 Skylake Coffee Lake U Refresh Core i7-155Hz 達(dá) 79%。

據(jù)悉，此次測(cè)試針對(duì) AMD 銳龍 7 8740U 及 Intel Core Ultra 7 155Hz兩種芯片進(jìn)行了對(duì)比，兩者均內(nèi)含硬件神經(jīng)網(wǎng)絡(luò)處理單元（NPU）。AMD 利用多幅幻燈片展示了兩顆處理器在參與 Mistral 7b、Llama v2 以及 Mistral Instruct 7B 等大型語言模型的效能差異。具體來說，在采用 Q4 位寬的Llama v2 對(duì)話測(cè)試環(huán)節(jié)，AMD 處理器性能優(yōu)于 Intel 產(chǎn)品 14%；在其他相同設(shè)定條件下，AMD 器件性能較Core Ultra 7 提高 17%。

同樣在上述大型語言模型測(cè)試中，AMD 處理器反應(yīng)速度明顯加快。以Llama v2 對(duì)話測(cè)試中的“首個(gè) Token生成提示詞”速率比拼為例，AMD 工作效率比 Intel 高出 79%，且在 Mistral Instruct 測(cè)試中達(dá)到 41%的提速。

AMD 還提供了多種質(zhì)量參數(shù)的 Llama v2 7B 對(duì)話測(cè)試數(shù)據(jù)，總體而言，銳龍 7 7840U 平均效能比 Intel 競(jìng)品高出 55%，在 Q8 位寬設(shè)置中甚至有 70%的進(jìn)步。但 AMD 亦指出，在實(shí)際運(yùn)行大語言模型時(shí)，選用 4 位 K M 量化可實(shí)現(xiàn)更佳效，如需極高精度度的編碼任務(wù)，建議使用 5 位 K M 量化模式。

然而，目前看來，AMD 在人工智能性能上暫占上風(fēng)。雖然理論上，銳龍 7040 系列架構(gòu)在計(jì)算性能（TOPS）上與 Meteor Lake 持平，但早在去年年底，Tom‘s Hardware 即發(fā)現(xiàn)在 AI 負(fù)載方面，AMD 總是能戰(zhàn)勝 Meteor Lake。這顯而易見是軟件優(yōu)化問題，并非硬件或驅(qū)動(dòng)程序故障所致。

然而，未來情況未必如此。無論是在神經(jīng)網(wǎng)絡(luò)處理單元領(lǐng)域，還是在AI性能優(yōu)化領(lǐng)域，未來規(guī)劃與發(fā)展都尚無定論。盡管如此，我們有理由相信，隨著時(shí)間推移，格局或許將有所變動(dòng)。

綜合來看，現(xiàn)階段AMD的NPU性能尤為出色，尤其是具備強(qiáng)大NPU性能的銳龍 8040 系列處理器。然而隨著Intel年底推出新款Lunar Lake移動(dòng)CPU及完善其人工智能優(yōu)化議程，情況恐生變數(shù)。