Page 115 - My FlipBook
P. 115
Brochure 2020
圖二：人工智慧優化編譯器。
三、非揮發性記憶體之深度學習 統，我們重新檢視現行作業系統中記憶體管理系統、
儲存系統與檔案系統的設計細節，從而提出一個全
深度學習訓練通常需要大量的 DRAM 記憶體空間， 新的記憶體內檔案系統設計，此一檔案系統能依目
但 DRAM 有較高的硬體成本及漏電問題。基於這些 前使用者資料量來動態調整儲存系統容量，以最大
問題，我們提出利用非揮發性記憶體為電腦系統之 化主記憶體可用的空間，藉以優化程式運行的效率。
主憶體來優化深度學習訓練之效能。由於非揮發性 同時，我們也重新檢視並設計作業系統中的頁面快
記憶體具有低漏電及高密度的特性，我們提出利用 取系統，利用主記憶體資料與檔案系統資料共存在
非揮發性記憶體來擴大訓練系統之主記憶體容量並 同一個非揮發性記憶體裝置上的特性，從而 (1) 最小
降低訓練系統之總體能耗。然而，非揮發性記憶體 化資料搬移的成本並 (2) 最大化非揮發性記憶體的壽
具有非對稱的讀寫特性以及有限的寫入次數限制， 命。
為了解決這些問題，在類神經網路的深度學習訓練
研究之中，我們分析類神經網路在訓練過程中的資 圖三：基於非揮發性記憶體與近似演算法之深度學習應用。
料流程與資料內容的變化特性，並利用這些分析所
得的特性，提出利用近似運算技術 ( 包含近似記憶體 圖四：整合記憶體架構之電腦架構。
與儲存體技術 )，在不損失正確性的前提下，提升類
神經網路訓練的效能。此技術的核心精神為利用近
似運算技術來降低資料的寫入精準度以換取較少的
資料寫入能耗及變化量。此研究方向的成果將在不
改變現行系統架構的前提下，就能有效的解決深度
學習訓練所遭遇的能耗及容量問題，同時也能為深
度學習在系統支援方面開啟一個全新的設計發展。
四、整合記憶體架構之電腦系統
由於各種巨量資的應用被快速地被使用在各種不的
系統之上，I/O 裝置的資料傳輸速率也變成極為關鍵
的效能因素。為了解決儲存系統的存取效能低落問
題，現行的作法大多採取擴大 DRAM 主記憶體容量
來減少 I/O 裝置的資料傳輸量，但卻造成更多的能耗
與硬體成本。有鑑於此，我們提出利用非揮發性記
憶體來同時取代系統的主記憶體與儲存體的「整合
記憶體架構」，因為當非揮發性記憶體取代 DRAM
為主記憶體同時取代磁碟機為儲存裝置時，系統的
效能將隨著非揮發性記憶體的可位置化特性、非揮
發性高容量與高存取性能而有全新的變化。為了強
化非發揮性記憶體所體現的「整合記憶體架構」系
113
圖二：人工智慧優化編譯器。
三、非揮發性記憶體之深度學習 統，我們重新檢視現行作業系統中記憶體管理系統、
儲存系統與檔案系統的設計細節，從而提出一個全
深度學習訓練通常需要大量的 DRAM 記憶體空間， 新的記憶體內檔案系統設計，此一檔案系統能依目
但 DRAM 有較高的硬體成本及漏電問題。基於這些 前使用者資料量來動態調整儲存系統容量，以最大
問題，我們提出利用非揮發性記憶體為電腦系統之 化主記憶體可用的空間，藉以優化程式運行的效率。
主憶體來優化深度學習訓練之效能。由於非揮發性 同時，我們也重新檢視並設計作業系統中的頁面快
記憶體具有低漏電及高密度的特性，我們提出利用 取系統，利用主記憶體資料與檔案系統資料共存在
非揮發性記憶體來擴大訓練系統之主記憶體容量並 同一個非揮發性記憶體裝置上的特性，從而 (1) 最小
降低訓練系統之總體能耗。然而，非揮發性記憶體 化資料搬移的成本並 (2) 最大化非揮發性記憶體的壽
具有非對稱的讀寫特性以及有限的寫入次數限制， 命。
為了解決這些問題，在類神經網路的深度學習訓練
研究之中，我們分析類神經網路在訓練過程中的資 圖三：基於非揮發性記憶體與近似演算法之深度學習應用。
料流程與資料內容的變化特性，並利用這些分析所
得的特性，提出利用近似運算技術 ( 包含近似記憶體 圖四：整合記憶體架構之電腦架構。
與儲存體技術 )，在不損失正確性的前提下，提升類
神經網路訓練的效能。此技術的核心精神為利用近
似運算技術來降低資料的寫入精準度以換取較少的
資料寫入能耗及變化量。此研究方向的成果將在不
改變現行系統架構的前提下，就能有效的解決深度
學習訓練所遭遇的能耗及容量問題，同時也能為深
度學習在系統支援方面開啟一個全新的設計發展。
四、整合記憶體架構之電腦系統
由於各種巨量資的應用被快速地被使用在各種不的
系統之上，I/O 裝置的資料傳輸速率也變成極為關鍵
的效能因素。為了解決儲存系統的存取效能低落問
題，現行的作法大多採取擴大 DRAM 主記憶體容量
來減少 I/O 裝置的資料傳輸量，但卻造成更多的能耗
與硬體成本。有鑑於此，我們提出利用非揮發性記
憶體來同時取代系統的主記憶體與儲存體的「整合
記憶體架構」，因為當非揮發性記憶體取代 DRAM
為主記憶體同時取代磁碟機為儲存裝置時，系統的
效能將隨著非揮發性記憶體的可位置化特性、非揮
發性高容量與高存取性能而有全新的變化。為了強
化非發揮性記憶體所體現的「整合記憶體架構」系
113
