1750億!全球第一臺(tái)百億億次超算的模型誕生

這幾個(gè)月來(lái)ChatGPT很火，帶動(dòng)各大科技巨頭都要下場(chǎng)研發(fā)自己的AI大模型，現(xiàn)在Intel也加入戰(zhàn)局，推出AuroragenAI模型，參數(shù)量高達(dá)1萬(wàn)億。

目前ChatGPT 3.5模型的參數(shù)規(guī)模說(shuō)是1750億，意味著AuroragenAI模型至少是它的5倍，目前有不少公司都宣傳自家的模型是萬(wàn)億參數(shù)級(jí)別的，但是水分很多，Intel的萬(wàn)億參數(shù)模型要可信很多。

因?yàn)锳uroragenAI模型是配套Intel為美國(guó)Argonne阿拉貢國(guó)家實(shí)驗(yàn)室開(kāi)發(fā)的Aurora超算的，性能達(dá)到了200億億次，是當(dāng)前TOP500超算冠軍Frontier的2倍，后者是全球第一臺(tái)百億億次超算。

Aurora超算共有10624個(gè)節(jié)點(diǎn)，每個(gè)節(jié)點(diǎn)2組CPU及6組GPU，CPU是Sapphire Rapids-SP架構(gòu)的，總計(jì)21248個(gè)，GPU是Intel最強(qiáng)的Ponte Vecchio，總計(jì)63744個(gè)。

還有10.9PB的DDR5內(nèi)存，1.36PB的HBM CPU內(nèi)存，8.16PB的HBM GPU內(nèi)存，峰值帶寬分別可達(dá)5.95PB/s、30.5PB/s、208.9PB/s。

存儲(chǔ)系統(tǒng)還有230PB容量，30TB/s帶寬，光看參數(shù)的話Aurora超算真的是夢(mèng)幻級(jí)別。

Aurora genAI模型就運(yùn)行在Aurora超算上，1萬(wàn)億參數(shù)的能力很好很強(qiáng)大，不過(guò)它跟ChatGPT不同，主要用于科學(xué)計(jì)算領(lǐng)域，包括生物學(xué)、癌癥、大氣科學(xué)、天文學(xué)、高分子化學(xué)等領(lǐng)域。