當(dāng)前位置：首頁>硬件問題 > 英特爾公布Nervana NNP-T深度學(xué)習(xí)訓(xùn)練加速器 16nm工藝、32GB HBM2

英特爾公布Nervana NNP-T深度學(xué)習(xí)訓(xùn)練加速器 16nm工藝、32GB HBM2

來源：番茄系統(tǒng)家園瀏覽：時間：2022-04-21 13:55:56

本文經(jīng)超能網(wǎng)授權(quán)轉(zhuǎn)載，其它媒體轉(zhuǎn)載請經(jīng)超能網(wǎng)同意。

現(xiàn)在深度學(xué)習(xí)已成為人工智能的重要方向，而且研究成果已經(jīng)應(yīng)用于日常使用中。但訓(xùn)練人工智能模型需要強大的算力支持，所以除了使用GPU加速訓(xùn)練外，很多廠商開始推出專用于深度學(xué)習(xí)訓(xùn)練的ASIC芯片。英特爾在人工智能領(lǐng)域投入頗多，除了FPGA產(chǎn)品線外，也推出了Nervana深度學(xué)習(xí)加速器，在今天的HotChips 31會議中，英特爾公布了旗下Nervana NNP-T深度學(xué)習(xí)加速器的細節(jié)。

這款Nervana NNP-T深度學(xué)習(xí)加速器代號為SpringCast，是目前英特爾最新款的專用深度學(xué)習(xí)加速器。這款加速器被命名為NNP-T，表示其主要用于深度學(xué)習(xí)網(wǎng)絡(luò)模型訓(xùn)練工作定制。隨著深度學(xué)習(xí)模型越來越龐大，所以專用的訓(xùn)練加速器也逐漸流行起來，如NVIDIA也推出了TeslaT4 GPU。

具體到加速器核心上，此次英特爾反常的使用了臺積電16nmCLN16FF+工藝，而實際上Nervana在收購前就使用的是臺積電28nm工藝制造其第一代的LakeCast芯片。雖然使用的是臺積電的工藝，但也是用了很多臺積電的最新技術(shù)。芯片采用了4個8GBHBM2-2400內(nèi)存，每針腳2.4GB/s的傳輸速率，都安裝在一個巨大的1200平方毫米的硅基板上。同時計算核心與HBM內(nèi)存通過臺積電最新的CoWoS晶圓級封裝技術(shù)進行互聯(lián)。最終得到了一個60x 60mm，具有3325 pin的BGA封裝。

在展示中稱此次由于HBM2與核心是無源封裝，所以為2.5D封裝技術(shù)。而HBM2由于是4Hi,所以整體為3D封裝。實際上英特爾自家也有EMIB嵌入式多芯片互聯(lián)橋接這種橋接技術(shù)。四個HBM2堆棧共有64條SerDes通道，每個通道支持28GB/s的傳輸速率。

具體的核心規(guī)模上，Nervana NNP-T的計算核心擁有270億晶體管，包括24個TensorProcessors（TPC）。除了TPC外，芯片裸片中還有60MB的SRAM以及一些專用的接口，如IPMI、I2C及16條PCI-E 4.0通道。

芯片的工作頻率為1.1GHz，風(fēng)冷條件下功率配置為150W到250W，可通過水冷獲得更強大的性能表現(xiàn)。同時Nervana NNP-T加速器還擁有OCP卡及PCI-E兩種規(guī)格，以供數(shù)據(jù)中心選擇。

Nervana NNP-T加速器充分利用內(nèi)存模塊和互聯(lián)網(wǎng)絡(luò)使得計算核心得以充分使用。計算核心支持bFloat16矩陣乘法、FP32、BF16以及其他主要操作。同時在使用上英特爾已經(jīng)通過開源的nGraph庫將深度學(xué)習(xí)框架連接到硬件后端的編譯器?，F(xiàn)在英特爾正在與常見的PaddlePaddle、Pytorch及TensorFlow深度學(xué)習(xí)框架進行合作。