AMD Ryzen™ AI Software之介紹

關鍵字 :AMDPytorchONNXAI

隨著AI PC的普及,AMD也在著手給用戶/開發人員提供更多的開發軟件和編譯環境,現在作簡要介紹,以期望AMD的用戶能更快的更好的運用AI。

介紹

AMD Ryzen™人工智慧軟件包括用於在AMD Ryzens™人工智慧驅動的PC上優化和部署人工智慧推理的工具和運行庫。 Ryzen人工智慧軟件使應用程序能够在AMD XDNA™架構中構建的神經處理單元(NPU)上運行,這是Windows x86處理器上的第一個專用人工智慧處理晶片。 這使開發人員能够構建和部署在PyTorch或TensorFlow中訓練的模型,並使用ONNX Runtime和Vitis™AI Execution Provider(EP)在Ryzen AI供電的筆記型電腦上直接運行它們。

雖然單獨在CPU或GPU上運行人工智慧模型會快速消耗電池,但使用Ryzen人工智慧筆記型電腦,人工智慧模型在嵌入式NPU上運行,為其他計算任務釋放CPU和GPU資源。 這顯著延長了電池壽命3,並允許開發人員高效地在本地運行設備上的專用LLM AI工作負載和併發應用程序。 此外,隨著Hugging Face上越來越多的預訓練模型動物園支持各種模型和簡單的一鍵安裝過程,開發人員可以在幾分鐘內開始構建他們的應用程序,在Ryzen AI上釋放人工智慧加速的全部潜力。



開發流程

為Ryzen AI開發AI應用程序可以概括為3個簡單步驟:

1.訓練Train
用戶在雲中的PyTorch、TensorFlow和/或ONNX模型中選擇或開發並訓練模型。

2.量化Quantize
Ryzen AI軟體發展支持多種量化流。 開發人員可以利用AMD Vitis™AI量化器將模型量化為INT8,並將其保存為ONNX格式,或者將Microsoft Olive與Vitis AI量化器一起用作挿件。

3.部署Deploy
ONNX Runtime Vitis AI EP在Ryzen AI硬體上對量化的ONNX模型進行優化分區、編譯和執行,優化工作負載以確保低功耗的最佳效能。

Ryzen AI軟件檔案

檔案支持可用於在模型、工具、深度學習處理器等方面使用Ryzen AI軟件進行開發。


訪問檔案門戶查看所有Ryzen AI軟體平臺檔案。可點擊鏈接了解:https://ryzenai.docs.amd.com/en/latest/inst.html

入門/資源

使用Ryzen AI軟件進行開發
按照以下步驟開始開發:
安裝:請參閱安裝頁面。https://ryzenai.docs.amd.com/en/latest/inst.html
開發流程概述:請參閱開發流程概述頁面。https://ryzenai.docs.amd.com/en/latest/devflow.html
入門:請參閱示例、演示和教程頁面。https://ryzenai.docs.amd.com/en/latest/examples.html

AI社區

想分享你的人工智慧經驗、提出問題並幫助解決問題嗎? 查看人工智慧社區論壇。
鏈接:https://community.amd.com/t5/ai/ct-p/amd_ai

注册Ryzen AI新聞:

隨時瞭解最新產品發佈、新聞和提示。

還有更多特色內容可以點擊網站了解
AMD Ryzen™ AI Software

★博文內容參考自 網站,與平台無關,如有違法或侵權,請與網站管理員聯繫。

★文明上網,請理性發言。內容一周內被舉報5次,發文人進小黑屋喔~

參考來源

AMD: https://www.amd.com/zh-cn/developer/resources/ryzen-ai-software.html

評論