MIT研發新型動態GPU緩存技術：可提升30%性能

現代處理器普遍依賴於一套內存模組來緩存數據，從而提升處理器在執行日常計算任務時的速度。不過即便有了這個相對較快的緩存，其在執行某些任務時仍有一些限制。一個形象點的例子是 —— 你該怎麼將一枚方形的釘子穿過圓孔呢？為了克服這個問題，製造商們嘗試過增大緩存的規模，但又遲早會遇到相同的負面效應。好消息是，麻省理工電氣工程與計算機科學系助理教授 Daniel Sanchez 解釋了一個全新的概念！

上圖為運行四個應用程序的 36 塊 Jenga 系統，其給予了每個應用程序一組定製的虛擬緩存層級：「試想一下用這些分散式物理內存資源，來構建專門面嚮應用程序的層級，以取得最大性能」。

MIT 計算機科學與人工智慧實驗室（CSAIL）已經在一顆新型處理器上進行了模擬，其替換掉了固定緩存，轉而採用一種更加動態的內存機制，以迎合不同的應用需求並減少進程的遲滯。

模擬發現，『Jenga』系統可以將整體處理性能提升 30%，並將能耗降低 85% 。如果將之整合到現代處理器中，對現代智能設備也是一個極大的利好。Sanchez 繼續說到：

這取決於應用程序的多個方面，比如其訪問的數據大小、是否有層次重用、可否因逐漸擴大的內存獲益、是否透過某種數據結構進行掃描、數據訪問是否頻繁（或是單次大訪問）、將數據下放到主內存後會對性能產生多大影響等，所有這些都有不同的權衡。

需要指出的是，當前其仍停留於理論模擬階段，且 MIT 尚未打造出一台工作原型。至於未來的發展潛力，仍有待時間去檢驗。