一款開放式軟體堆疊，包括在 AMD 顯示卡上開發 AI 和 HPC 解決方案的編程模型、工具、編譯器、程式庫和執行階段。
1.使用 ROCm™ 6 平台釋放您的工作負載
AMD ROCm™ 6 開源軟體平台經過優化，可從 AMD Instinct™ MI300 加速器中提取最佳的 HPC 和 AI 工作負載性能，同時保持與行業軟體框架的相容性。ROCm 由一系列驅動程式、開發工具和 API 組成，支援從低級內核到最終使用者應用程式的 GPU 程式設計，並且可自定義以滿足您的特定需求。在免費、開源和集成的軟體生態系統中開發、協作、測試和部署應用程式。一旦設計完成，該軟體便是可移植的，允許在來自不同供應商的加速器之間或不同的 GPU 間連接架構之間移動，所有這些都以獨立於設備的方式進行。ROCm 特別適用於 GPU 加速的高性能計算 （HPC）、人工智慧 （AI）、科學計算和計算機輔助設計 （CAD）。Infinity Hub 現已提供一系列用於 HPC、AI 和機器學習應用程式的高級 GPU 軟體容器和部署指南，以説明加快您的系統部署和獲得見解的時間。
2.推動您的 AI 應用程式
對最流行的 AI 和 ML 框架（TensorFlow、JAX 和 PyTorch）的上游支援使 ROCm 平臺易於採用。ROCm 平台支援各種支援庫，以幫助改進您的模型和運行時環境，包括 DeepSpeed、ONNX-RT、Jax 和 CuPy。與 ROCm 5 + MI250 相比，這些功能和優化為 ROCm 6 + MI300X 提供了 8 倍的代次性能改進。AMD Infinity Hub 提供可立即運行的容器化框架，我們的 GPU 加速應用目錄列出了可供 AI 和 ML 從業者使用的廣泛支援庫。
3.加速您的高性能計算工作負載
一些最流行的 HPC 框架是 ROCm 平臺的一部分，包括那些説明跨多個 GPU 和伺服器並行操作、處理記憶體層次結構和求解線性系統的框架。我們的 GPU 加速應用目錄包括大量與平臺相容的 HPC 應用，包括天體物理學、氣候與天氣、計算化學、計算流體動力學、地球科學、基因組學、地球物理學、分子動力學和物理學等應用。其中許多都可以通過 AMD Infinity Hub 獲得，隨時可以在配備 AMD Instinct™ 加速器的伺服器上下載和運行。
據Greg Diamos Lamini 首席技術官反饋，
“使用 Lamini 軟體，ROCm 實現了與 CUDA for LLM 的軟體對等。我們選擇 AMD Instinct MI250 作為 Lamini 的基礎，因為它可以運行客戶所需的最大型號，並集成微調優化。我們使用MI250上的大HBM容量（128GB） 來運行更大的模型，軟體複雜度低於 A100 集群。
ROCm 6 有哪些新功能？
1. 擴展支援：適用於 AMD Instinct™ MI300A 和 MI300X
2.AI 支援的主要功能：ROCm 轉換器引擎、高度優化的注意力演算法和經過驗證的集體通信庫
3.優化性能：動態 FP16、BF16、FP8 利用率，優化 HIPGraph
4.幫助開發人員取得成功：支持結構化稀疏性和量化庫
5.擴展的生態系統支援：使用最新的框架、模型和 ML 管道
評論