Optionshare 選擇幫

標題: 一台搭載8顆NVIDIA H100的AI伺服器成本將近27萬美元。 [打印本頁]

作者: sec2100    時間: 4 天前
標題: 一台搭載8顆NVIDIA H100的AI伺服器成本將近27萬美元。
AI伺服器是什麼?跟一般伺服器有何不同

AI伺服器和一般伺服器的不同在於晶片的組成。一般伺服器以中央處理器(CPU)為主要的算力提供,而AI伺服器除了CPU以外,還加上了圖型處理器(GPU)及特殊應用晶片(ASIC、FPGA、TPU)等,用來應付AI的龐大算力。

兩者在成本方面差異甚鉅,根據《DIGITIMES》指出,以傳統x86架構的伺服器成本約為1萬美元,而一台搭載8顆NVIDIA H100的AI伺服器,成本將近27萬美元。


作者: sec2100    時間: 4 天前
https://www.bnext.com.tw/article/80345/ai-server--electronic-odm?




歡迎光臨 Optionshare 選擇幫 (https://optionshare.tw/) Powered by Discuz! X3.2