云南電腦|昆明電腦|電腦批發(fā)|it行業(yè)聯(lián)盟
近日，AMD發(fā)布了計算加速卡“Alveo V80”，專為內存密集型工作負載提供靈活的加速，也是AMD第一款大規(guī)模市場化的FPGA加速卡產(chǎn)品。
它有著豐富的應用領域和場景，比如基因組學、分子動力學、傳感器處理等高性能計算，欺詐檢測、公共事業(yè)、醫(yī)療分析、供應鏈分析等數(shù)據(jù)分析，風險分析、算法交易、Web3應用等金融科技，數(shù)據(jù)包監(jiān)控、防火墻等網(wǎng)絡安全，存儲，推薦引擎、大語言模型等AI計算，等等。
簡單地說，它和AMD Instinct這樣的產(chǎn)品都屬于計算加速器，但不是負責在算力上進行加速，而是專門用于解決大數(shù)據(jù)集計算負載中經(jīng)常存在的內存以及網(wǎng)絡瓶頸，打通整個計算鏈條。
這也是AMD的獨特優(yōu)勢產(chǎn)品，更是其全棧計算解決方案中的重要一環(huán)。
這是傳統(tǒng)的大數(shù)據(jù)集工作負載處理流程示意圖，可以看出有兩個地方容易成為瓶頸。
一是內存，無論是DDR4還是DDR5，帶寬其實都是有限的，無法和PCIe相媲美，經(jīng)常無法滿足CPU、FPGA等各種芯片、計算傳輸?shù)男枰?/p>
二是網(wǎng)絡，傳統(tǒng)方案往往是固定網(wǎng)絡接口與帶寬，一旦需要超大規(guī)模數(shù)據(jù)傳輸，就可能滿足不了。
另外，整個工作流程也缺乏全方面的安全防護。
AMD Alveo V80加速卡就是為解決這類問題而來。
首先將板載的獨立內存升級為整合HBM，其優(yōu)勢就是超高帶寬，又與主芯片緊密集成，已經(jīng)在HPC/AI加速器中廣泛應用。
其次是支持從10G到800G的廣泛網(wǎng)絡連接，可以按需選擇、組合，滿足靈活應變的計算。
另外就是全程都有安全連接，對于敏感應用是非常關鍵的。
這就是AMD Alveo V80加速卡的整體設計與規(guī)格，全高、3/4長度的擴展卡形態(tài)，也就是高約111毫米、長約234毫米。
主芯片采用7nm工藝制造，是一顆Versal HBM XCV80自適應SoC，集成了多達260萬個LUT可編程邏輯單元、10848個DSP計算邏輯單元，還整合封裝了32GB HBM2E高帶寬內存，帶寬高達820GB/s。
如果需要，還可以通過板載的DDR4 DIMM標準插槽，再擴展最多32GB內存。
網(wǎng)絡方面采用QSFP56光纖模塊，支持最高800G帶寬，可實時處理傳入的海量數(shù)據(jù)，并支持4X200G，以及4X10G/25G/40G/50G等不同工作模式，能通過以太網(wǎng)擴展到數(shù)百個節(jié)點，組建計算集群。
同時內置400G加密引擎、600G以太網(wǎng)硬塊，再加上FPGA的硬件靈活性，可以實現(xiàn)線速數(shù)據(jù)包檢測，以及AI支持的異常檢測，確保網(wǎng)絡安全。
卡上還設置了MCIO擴展端口，可以直連NVMe存儲，并完成板對板仿真開發(fā)工作。
系統(tǒng)連接總線支持一路PCIe 4.0 x16或者兩路PCIe 5.0 x8。
整卡電氣功耗300W，熱設計功耗190W，可以采用被動散熱，也可以根據(jù)元器件和服務器來定制熱設計功耗水平。
Versal HBM自適應SoC芯片的整體架構圖，可以看到兩個Cortex-A72應用處理器核心、兩個Cortex-R5F實時處理器核心、可編程邏輯引擎、DPS引擎等核心組件，其中DSP性能比上代提升了2-3倍。
它硬化了與基礎設施的連接，包括DDR內存控制器、DMA PCIe控制器、可編程片上網(wǎng)絡等，集成度更高，連接更方便。
此外就是網(wǎng)絡部分，集成多個高帶寬核心，包括一個100G以太網(wǎng)核心、一個600G以太網(wǎng)核心、一個600G Interlaken核心，以及一個400G加密引擎。
傳統(tǒng)架構是固定的緩存層次，數(shù)據(jù)的讀取和寫入必須非常“規(guī)矩”，一旦有不規(guī)則的訪問，就會大大降低效率。
自適應計算新架構則非常靈活，就是在計算附近分配內存，可以大大降低延遲、功耗，而且可以靈活適應自定義的數(shù)據(jù)類型和數(shù)據(jù)遷移。
預構建硬化的數(shù)據(jù)中心基礎設施連接，可以非常方便地連接板載擴展內存、以太網(wǎng)絡、MCIO端口，以及高性能的EPYC處理器。
相比于傳統(tǒng)的GPU加速器，Alveo V80這樣的網(wǎng)絡附接加速卡自然不是用來完全取代的，但在很多應用中也有自己獨特的優(yōu)勢。
尤其是GPU加速卡都要與CPU連接，擴展數(shù)量存在很大的限制，網(wǎng)絡附接加速卡就更靈活一些，包括低時延傳入網(wǎng)絡、繞開CPU與加速器之間的PCIe連接瓶頸、無需獨立網(wǎng)卡，從而實現(xiàn)加速卡和計算密度的最大化。
同時，對于傳入網(wǎng)絡數(shù)據(jù)可以靈活管理，包括按需限速、在線加密、數(shù)據(jù)包監(jiān)控等等。
這是和上一代Alveo U55C的性能對比：
內存帶寬提升至1.8倍，邏輯單元密度提升至2倍，網(wǎng)絡帶寬提升至4倍(200G變成800G)，PCIe帶寬提升至2倍(PCIe 4.0升級到PCIe 5.0)。
Alveo V80加速卡應用案例，澳大利亞國家級研究機構CSIRO(聯(lián)邦科學與工業(yè)研究組織)參與建設的世界最大射電天文天線陣列，通過處理無線電波，研究早期宇宙及其演化，擁有多達13.1萬個天線，持續(xù)傳感器傳輸帶寬高達15Tbps。
該陣列目前配備420塊Alveo U55C加速卡，用于波束成形和相關器，需要占用21臺服務器和4個機架空，已經(jīng)逐漸無法滿足越發(fā)復雜的負載需求。
為此，CSIRO升級到了Alveo V80，只需要140塊加速卡、14臺服務器，分別減少了2/3、1/3，性能提升了2-3倍，但同時功耗也降低了多達55％，三年TCO成本還可降低最多達21％。
再比如具備壓縮與數(shù)據(jù)分析功能的服務器存儲節(jié)點，引入Alveo V80進行壓縮，可以減少61％的服務器空間、44％的服務器成本、55％的功耗，三年TCO總成本可以節(jié)省多達56％。
還有網(wǎng)絡安全、金融科技方面的用例，Alveo V80加速卡都可以帶來更高的價值，這里就不展開了。
Alveo V80主要面向傳統(tǒng)的FPGA軟硬件開發(fā)人員，可以繼續(xù)利用AMD Vivado設計套件、Alveo Versal示例設計(AVED)，后者已可在GitHub上獲取。
?