記者黃俊育 / 綜合報導
Supermicro, Inc.(納斯達克股票代碼:SMCI)為AI、雲端、儲存和 5G/邊緣領域的全方位 IT 解決方案製造商,正在擴展其AI解決方案產品組合,讓客戶在公共空間、零售商店或工業基礎架構等邊緣位置能有效運用AI的強大性能。透過使用搭載NVIDIA GPU的Supermicro應用最佳化伺服器,可更輕鬆地微調預訓練模型(Pre-trained Model)及將AI推論解決方案部署在產生資料的邊緣端,進而縮短回應時間與改善決策。
Supermicro總裁暨執行長梁見後表示:「Supermicro擁有最多元的邊緣AI解決方案產品組合,能支援客戶用於邊緣環境的預訓練模型。Supermicro Hyper-E伺服器搭載兩個第五代Intel® Xeon®處理器並支援最多三個NVIDIA H100 Tensor Core GPU,能為邊緣AI提供無與倫比的效能。藉由這些具有最高8TB記憶體的伺服器,我們能將資料中心的AI處理性能帶至邊緣位置。隨著企業透過在邊緣端處理AI資料來建立競爭優勢,Supermicro也將繼續為產業提供最佳化解決方案。」
深入了解Supermicro邊緣AI解決方案,請造訪:www.supermicro.com/edge-ai
透過這些伺服器升級,如非必要情況,使用者不再需要將資料傳回雲端進行處理,再將資訊擷取回邊緣端。同時,客戶現在可以使用預先訓練且效能最佳化後的大型語言模型(LLM),並透過NVIDIA AI Enterprise在其邊緣位置使用,以便在靠近資料生成端進行即時、精準的決策。
NVIDIA合作夥伴聯盟副總裁Kevin Connors表示:「越來越多來自醫療保健、零售、製造和汽車等領域的企業有意在邊緣端運用AI技術。Supermicro的全新NVIDIA認證系統由NVIDIA AI平台所驅動,提供了最高效能的加速運算基礎架構,並透過NVIDIA AI Enterprise軟體協助運行邊緣 AI 工作負載。」
例如,Supermicro的Hyper-E伺服器SYS-221HE系列便針對邊緣訓練和推論進行了最佳化,而其具備短機身與前置 I/O設計的系統機型搭載了雙路CPU。此系統最多容納三個雙寬NVIDIA Tensor Core GPU,包括NVIDIA H100、A10、L40S、A40和A2 GPU。這些GPU為Supermicro Hyper-E提供足夠的運算能力,可在收集、分析和儲存資料的邊緣端處理AI 工作負載。Supermicro SYS-221HE也提供前置或後置維運選項,使這些伺服器可被安裝在各種環境內。包括Eviden等合作夥伴正在打造邊緣AI解決方案,進而改善傳統零售商店內的客戶體驗,這些即為Supermicro Hyper-E伺服器的性能和靈活性可被運用的範例。
Supermicro的先進邊緣伺服器還包括:
- Supermicro SYS-621C-TNR12R(CloudDC系列)是一款適用於雲端資料中心的一體成型機櫃式平台。這款緊湊型2U系統能在其25.5吋機箱內支援最多兩個雙寬GPU和4至12個SATA/SAS磁碟槽。這些磁碟槽可選擇性搭配完整NVMe支援。
- Supermicro SYS-111E-FWTR是一款高密度邊緣系統。該系統高度為1U,並搭載第五代Intel Xeon處理器和兩個PCIe 5.0 x16 FHFL插槽,非常適合用於各種網路和邊緣應用。
- 緊湊型Supermicro SYS-E403-13E可搭載第五代Intel Xeon處理器和最多三個NVIDIA GPU,並透過其Box PC機型規格提供資料中心等級的效能。該系統的緊湊機體設計使其能被部署在狹小空間內,例如壁掛式機櫃中,或作為可攜式裝置使用。
- 超短機身SYS-211E-FRN2T的系統深度為300mm,專為空間有限的網路邊緣環境所設計。該系統可搭載最高第五代Intel Xeon處理器,並提供AC或DC電源設計選項。
- SYS-211SE-31D/A做為強大且多功能的SuperEdge系統之一,是具有三個獨立節點的多節點系統。此系統每個節點均具有第五代Intel Xeon處理器、三個PCIe 5.0 x16插槽和最高2TB的DDR5記憶體。這款2U系統不但具有前置I/O和寬廣運行溫度範圍,其短機身設計更是非常適合資料中心外部的部署。
- SYS-E300-13AD是一款緊湊型物聯網伺服器。該伺服器搭載第13代Intel Core處理器,機型尺寸僅265x226mm,是能容納NVIDIA GPU的最小系統,十分適合為邊緣端提供分散式AI性能。
歡迎蒞臨Supermicro在2024年世界行動通訊大會(Mobile World Congress 2024)內的展位。該大會在西班牙巴塞隆納內舉辦,Supermicro展位位於2 號廳內的2D35展場位置。
零售業智慧應用專家StoreGenius執行長Jacque Istok表示:「Eviden的 AI零售解決方案是基於Supermicro邊緣系統和NVIDIA技術,徹底改變了人們在商店等空間內導覽和互動的方式。透過商店的3D模型和能傳達適當資訊的互動式聊天機器人,此解決方案為客戶提供互動式且個人化的購物模式,進而改善購物體驗。融合逼真的臉部動畫、先進的語音辨識和3D建模,使虛擬購物幾乎如同在實體商店一樣真實。」