隨著雲計算、大數據和人工智慧技術的發展，人類正在邁向智能時代。而智能時代一個重要的特徵就是數據的分析和應用。數據作為能夠產生價值的資產已經成為全球共識。同時今天又進入一個海量數據增長的時代，每天會有2.5 EB (Exabyte) 的數據產生。如果無法在短時間內管理、存儲、獲取、並處理這些大量的數據，就無法從中獲取價值。要獲取數據中的價值，今天的IT環境和IT架構面臨著重大的變革。過去幾十年IT環境一直是以CPU為中心，現在隨著IT環境向著多元化發展，計算架構面臨CPU、GPU、NPU、FPGA、ASIC等加速優化，存儲架構面臨DRAM、NVM、SSD、HDD等多元技術的升級。隨著智能時代的到來，特別是對於深度學習、AI訓練等需求，除了需要出色的計算能力，要構建面向未來的AI架構還需要考慮一個問題就是，內存和計算的平衡。
在Computex 2019上，美光計算與網絡產品事業部高級副總裁兼總經理Thomas T.Eby在大會上發表了《智能加速，利用內存和存儲提高AI性能》的主題演講。日前，由美光委託Forrester 公司進行的調查顯示，內存和存儲對於構建更好的AI架構至關重要。Thomas T.Eby分享了其中重要觀點。超過九成受訪者表示，AI時代內存和存儲必須更鄰近數據源，以及運算單元和內存必須更為鄰近、更緊密地結合。因為AI架構下，需要對海量數據進行更多的更快的運算。為減少對數據處理能力的影響，未來計算必須更靠近內存，甚至在內存中運算。調查的一個重要發現是重新架構的必要性。隨著IT架構的多元化，如何實現重新架構存儲和內存等單元以更好地支持AI時代的數據利用需求成為重要挑戰。
存儲的帶寬和容量成為影響AI訓練的重要因素
人工智慧應用的核心之一就是AI訓練，Forrester在“影響AI訓練過程”的相關調查中發現：在所有影響AI訓練效能和結果的因素之中，內存的傳輸量和帶寬影響最大。美光分享了醫療、無人駕駛以及製造領域的AI應用，來說明通過擴大內存帶寬和傳輸量帶來的變革。
內存和存儲創新能夠激發科學和醫學新實踐
以癌症偵測和治療為例，癌症偵測和治療分三個階段，第一是偵測癌細胞，第二是決定潛在療法是否有效果，第三是發展出更適合病患個體的個性化治療方案。傳統上在尋找癌細胞時，需要8K到10K的高解析度影像，且通常是人工去找，無法一次大規模地處理許多影像，也無法為病患做到個性化療程。美光提供AI推理解決方案，提供足夠的內存帶寬和容量，總共0.5TB的內存量，讓高解析度醫療影像可以存儲在單一內存之中，不需要拆分成不同影像逐步傳送。這不僅加快找到癌細胞的過程，較快驗證相關療程，並更有可能為病患發展出個性化療程。
推動自動駕駛領域的邊緣智能
未來每輛LEVEL 5自動駕駛汽車將配有八到十二片4K到8K解析度的顯示螢幕，內存帶寬的需求將達到每秒150到300 GB，其所需的內存密度將是現今最先進汽車等級的八到十倍以上。而自動駕駛所需的內存帶寬更高，因該模式需要實時處理包括來自相機、光達、雷達、車對車、車對基礎建設等相關數據，預估每秒需處理0.5到1TB的數據量。自動駕駛車輛的使用周期中，會重複寫入的數據量加起來將有 150 PB （Petabyte），所以對內存與存儲的效能與耐用性要求會特別高。美光在汽車內存解決方案領域已有超過25年的行業經驗，針對高級駕駛輔助系統比如駕駛車道輔助、自適應巡航控制、停車輔助、已經不久將來的自動駕駛、無人駕駛，以及車載信息娛樂、車載體驗等各個細分場景都有全套的易失性和非易失性內存產品組合。2018年年底，美光還推出了業內首款1TB汽車級和工業級PCIe NVMe閃存存儲，該系列產品基於美光的64層3D TLC NAND技術進行研發。應用PCIe接口，其讀取速度比UFS2.1和SATA3接口快2倍以上，寫入速度快1.5倍以上。
(Thomas T.Eby分享到，現在自動駕駛汽車的某些技術愈來愈像飛機。未來自動駕駛汽車將會像飛機一樣有黑盒子，以每 30 秒的速度持續錄製片段，記錄車內外狀況，因此內存帶寬需求將達每秒1 GB。)
加快製造業產生關鍵洞見
美光在晶圓製造過程中，藉助數據分析和人工智慧提高了生產效率，並支持AI的發展。現在廠房使用複雜的IoT系統，以不同方式檢測問題，包括應用聲音去判斷設備異常狀況，進而及早做預測式維修，減少故障時間。並在「電性針測缺陷分類」（classification of electrical failure data）與「晶圓影像自動偵錯分類」（Wafer Image defect classification）中，同樣也運用人工智慧。
半導體製造堪稱地球上最複雜的任務之一，晶圓的產生需要在無塵室歷經1500多個步驟才能完成。每一個步驟都需要及時監測，任何一個步驟異常，都會導致晶圓的失敗，因此對每一個步驟的實施監控是是提升生產效率與安全的關鍵核心，而機器學習和人工智慧能以極高精確度和極短時間完成這個任務，探測到熟練工作人員也較難感知到的異常。美光自從應用AI方案後，取得良好的成果，其中包含達到目標良率的成熟時間減少25%、同樣設備生產量提高10%，以及相關質量缺失事件減少超過三分之一。
(Thomas T.Eby表示目前是將AI模型在DGX上訓練，在數據中心部署相關的推理（inference）模型，未來希望實現更輕量化應用，可能會轉移到Raspberry Pi或NVIDIA Jetson 做推理，讓AI分析更接近邊緣的源頭。)
美光全系列內存和存儲產品支持AI架構進化
隨著AI、5G的發展，我們能看到的是更為多樣化、離散型的數據中心架構出現。支持架構重構、支持異構平台對於存儲提供商來講越來越重要。基於未來的需求，美光不斷推出全系列產品持續支持不同的AI架構和異構平台。包括提供更快速的DDR4，以及不久的將來的DDR5的晶片。
針對未來數據中心對存儲架構的需求，美光是業界唯一能滿足各方面需求的廠商，從低延時高性能的DRAM、3D XPoint、到高密度NAND方案，完全滿足下一代數據中心需求。美光也在進行持久性內存的研發，包括在DIMM里兼容DRAM的解決方案，保證斷電時，數據依然有保障。過去DRAM中的數據未加密，未來需要更好的加密技術防護，持久性內存的走向可提升安全性。基於美光Authenta的安全SPI NOR，基於行業標準將安全元件和技術融合到現有晶片裡。安全標準包括特殊的密匙材料、加密保護的代碼完整性、可配置的測量引擎、可信憑證存儲、TCG設備標識組合引擎、用於安全啟動的完整性驗證邏輯、晶片級恢復、測量認證，都集成到晶片中，為業內現有和未來PCB設計提供最廣泛的支持。
(Thomas T.Eby最後表示，未來美光也將繼續與合作夥伴，包括CPU、GPU、FPGA生產廠商緊密地合作來實現讓數據計算更靠近內存，甚至在內存內直接計算的解決方案。)
在Computex 2019上，美光計算與網絡產品事業部高級副總裁兼總經理Thomas T.Eby在大會上發表了《智能加速，利用內存和存儲提高AI性能》的主題演講。日前，由美光委託Forrester 公司進行的調查顯示，內存和存儲對於構建更好的AI架構至關重要。Thomas T.Eby分享了其中重要觀點。超過九成受訪者表示，AI時代內存和存儲必須更鄰近數據源，以及運算單元和內存必須更為鄰近、更緊密地結合。因為AI架構下，需要對海量數據進行更多的更快的運算。為減少對數據處理能力的影響，未來計算必須更靠近內存，甚至在內存中運算。調查的一個重要發現是重新架構的必要性。隨著IT架構的多元化，如何實現重新架構存儲和內存等單元以更好地支持AI時代的數據利用需求成為重要挑戰。
存儲的帶寬和容量成為影響AI訓練的重要因素
人工智慧應用的核心之一就是AI訓練，Forrester在“影響AI訓練過程”的相關調查中發現：在所有影響AI訓練效能和結果的因素之中，內存的傳輸量和帶寬影響最大。美光分享了醫療、無人駕駛以及製造領域的AI應用，來說明通過擴大內存帶寬和傳輸量帶來的變革。
內存和存儲創新能夠激發科學和醫學新實踐
以癌症偵測和治療為例，癌症偵測和治療分三個階段，第一是偵測癌細胞，第二是決定潛在療法是否有效果，第三是發展出更適合病患個體的個性化治療方案。傳統上在尋找癌細胞時，需要8K到10K的高解析度影像，且通常是人工去找，無法一次大規模地處理許多影像，也無法為病患做到個性化療程。美光提供AI推理解決方案，提供足夠的內存帶寬和容量，總共0.5TB的內存量，讓高解析度醫療影像可以存儲在單一內存之中，不需要拆分成不同影像逐步傳送。這不僅加快找到癌細胞的過程，較快驗證相關療程，並更有可能為病患發展出個性化療程。
推動自動駕駛領域的邊緣智能
未來每輛LEVEL 5自動駕駛汽車將配有八到十二片4K到8K解析度的顯示螢幕，內存帶寬的需求將達到每秒150到300 GB，其所需的內存密度將是現今最先進汽車等級的八到十倍以上。而自動駕駛所需的內存帶寬更高，因該模式需要實時處理包括來自相機、光達、雷達、車對車、車對基礎建設等相關數據，預估每秒需處理0.5到1TB的數據量。自動駕駛車輛的使用周期中，會重複寫入的數據量加起來將有 150 PB （Petabyte），所以對內存與存儲的效能與耐用性要求會特別高。美光在汽車內存解決方案領域已有超過25年的行業經驗，針對高級駕駛輔助系統比如駕駛車道輔助、自適應巡航控制、停車輔助、已經不久將來的自動駕駛、無人駕駛，以及車載信息娛樂、車載體驗等各個細分場景都有全套的易失性和非易失性內存產品組合。2018年年底，美光還推出了業內首款1TB汽車級和工業級PCIe NVMe閃存存儲，該系列產品基於美光的64層3D TLC NAND技術進行研發。應用PCIe接口，其讀取速度比UFS2.1和SATA3接口快2倍以上，寫入速度快1.5倍以上。
(Thomas T.Eby分享到，現在自動駕駛汽車的某些技術愈來愈像飛機。未來自動駕駛汽車將會像飛機一樣有黑盒子，以每 30 秒的速度持續錄製片段，記錄車內外狀況，因此內存帶寬需求將達每秒1 GB。)
加快製造業產生關鍵洞見
美光在晶圓製造過程中，藉助數據分析和人工智慧提高了生產效率，並支持AI的發展。現在廠房使用複雜的IoT系統，以不同方式檢測問題，包括應用聲音去判斷設備異常狀況，進而及早做預測式維修，減少故障時間。並在「電性針測缺陷分類」（classification of electrical failure data）與「晶圓影像自動偵錯分類」（Wafer Image defect classification）中，同樣也運用人工智慧。
半導體製造堪稱地球上最複雜的任務之一，晶圓的產生需要在無塵室歷經1500多個步驟才能完成。每一個步驟都需要及時監測，任何一個步驟異常，都會導致晶圓的失敗，因此對每一個步驟的實施監控是是提升生產效率與安全的關鍵核心，而機器學習和人工智慧能以極高精確度和極短時間完成這個任務，探測到熟練工作人員也較難感知到的異常。美光自從應用AI方案後，取得良好的成果，其中包含達到目標良率的成熟時間減少25%、同樣設備生產量提高10%，以及相關質量缺失事件減少超過三分之一。
(Thomas T.Eby表示目前是將AI模型在DGX上訓練，在數據中心部署相關的推理（inference）模型，未來希望實現更輕量化應用，可能會轉移到Raspberry Pi或NVIDIA Jetson 做推理，讓AI分析更接近邊緣的源頭。)
美光全系列內存和存儲產品支持AI架構進化
隨著AI、5G的發展，我們能看到的是更為多樣化、離散型的數據中心架構出現。支持架構重構、支持異構平台對於存儲提供商來講越來越重要。基於未來的需求，美光不斷推出全系列產品持續支持不同的AI架構和異構平台。包括提供更快速的DDR4，以及不久的將來的DDR5的晶片。
針對未來數據中心對存儲架構的需求，美光是業界唯一能滿足各方面需求的廠商，從低延時高性能的DRAM、3D XPoint、到高密度NAND方案，完全滿足下一代數據中心需求。美光也在進行持久性內存的研發，包括在DIMM里兼容DRAM的解決方案，保證斷電時，數據依然有保障。過去DRAM中的數據未加密，未來需要更好的加密技術防護，持久性內存的走向可提升安全性。基於美光Authenta的安全SPI NOR，基於行業標準將安全元件和技術融合到現有晶片裡。安全標準包括特殊的密匙材料、加密保護的代碼完整性、可配置的測量引擎、可信憑證存儲、TCG設備標識組合引擎、用於安全啟動的完整性驗證邏輯、晶片級恢復、測量認證，都集成到晶片中，為業內現有和未來PCB設計提供最廣泛的支持。
(Thomas T.Eby最後表示，未來美光也將繼續與合作夥伴，包括CPU、GPU、FPGA生產廠商緊密地合作來實現讓數據計算更靠近內存，甚至在內存內直接計算的解決方案。)
我要聯絡