Skip to content
WONGCW 網誌
  • 首頁
  • 論壇
  • 微博
  • 壁紙下載
  • 免費圖床
  • 視頻下載
  • 聊天室
  • SEO工具
  • 支援中心
  • 表格製作
  • More
    • 在線名片
    • 網頁搜索
    • 天氣預報
    • 二維碼生成器
    • WordPress 插件及主題下載
  • Search Icon

WONGCW 網誌

記錄生活經驗與點滴

繞過CPU:英偉達與IBM致力推動GPU直連SSD以大幅提升性能

繞過CPU:英偉達與IBM致力推動GPU直連SSD以大幅提升性能

2022-03-17 Comments 0 Comment

通過與幾所大學的合作,英偉達和IBM 打造了一套新架構,致力於為GPU 加速應用程序,提供對大量數據存儲的快速“細粒度訪問”。所謂的“大加速器內存”(Big Accelerator Memory)旨在擴展GPU 顯存容量、有效提升存儲訪問帶寬,同時為GPU 線程提供高級抽象層,以便輕鬆按需、細粒度地訪問擴展內存層次中的海量數據結構。

1.jpg

以CPU 為中心的傳統模型示例

顯然,這項技術將使人工智能、分析和機器學習訓練等領域更加受益。而作為BaM 團隊中的重量級選手,英偉達將為創新項目傾注自身的廣泛資源。

比如允許NVIDIA GPU 直接獲取數據,而無需依賴於CPU 來執行虛擬地址轉換、基於頁面的按需數據加載、以及其它針對內存和外存的大量數據管理工作。

對於普通用戶來說,我們只需看到BaM 的兩大優勢。其一是基於軟件管理的GPU 緩存,數據存儲和顯卡之間的信息傳輸分配工作,都將交給GPU 核心上的線程來管理。

通過使用RDMA、PCI Express 接口、以及自定義的Linux 內核驅動程序,BaM 可允許GPU 直接打通SSD數據讀寫。

2.jpg

BaM 模型示例

其次,通過打通NVMe SSD 的數據通信請求,BaM 只會在特定數據不在軟件管理的緩存區域時,才讓GPU 線程做好參考執行驅動程序命令的準備。

基於此,在圖形處理器上運行繁重工作負載的算法,將能夠通過針對特定數據的訪問例程優化,從而實現針對重要信息的高效訪問。

顯然,以CPU 為中心的策略,會導致過多的CPU-GPU 同步開銷(以及I/O 流量放大),從而拖累了具有細粒度的數據相關訪問模式—— 比如圖形與數據分析、推薦系統和圖形神經網絡等新興應用程序的存儲網絡帶寬效率。

為此,研究人員在BaM 模型的GPU 內存中,提供了一個基於高並發NVMe 的提交/ 完成隊列的用戶級庫,使得未從軟件緩存中丟失的GPU 線程,能夠以高吞吐量的方式來高效訪問存儲。

3.jpg

BaM 設計的邏輯視圖

更棒的是,該方案在每次存儲訪問時的軟件開銷都極低,並且支持高度並發的線程。而在基於BaM 設計+ 標準GPU + NVMe SSD 的Linux 原型測試平台上開展的相關實驗,也交出了相當喜人的成績。

作为当前基于 CPU 统管一切事务的传统解决方案的一个可行替代,研究表明存储访问可同时工作、消除了同步限制,并且 I/O 带宽效率的显著提升,也让应用程序的性能不可同日而语。

此外NVIDIA 首席科學家、曾帶領斯坦福大學計算機科學系的Bill Dally 指出:得益於軟件緩存,BaM 不依賴於虛擬內存地址轉換,因而天生就免疫於TLB 未命中等序列化事件。

最後,三方將開源BaM 設計的新細節,以期更多企業能夠投入到軟硬件的優化、並自行創建類似的設計。有趣的是,將閃存放在GPU 一旁的AMD Radeon 固態顯卡,也運用了類似的功能設計理念。

分享此文:

  • 分享到 Twitter(在新視窗中開啟)
  • 按一下以分享至 Facebook(在新視窗中開啟)
  • 分享到 WhatsApp(在新視窗中開啟)
  • 按一下以分享到 Telegram(在新視窗中開啟)
  • 分享到 Pinterest(在新視窗中開啟)
  • 分享到 Reddit(在新視窗中開啟)
  • 按一下即可分享至 Skype(在新視窗中開啟)
  • 按一下即可以電子郵件傳送連結給朋友(在新視窗中開啟)
  • 點這裡列印(在新視窗中開啟)

相關


網絡資訊

Post navigation

PREVIOUS
瘋狂英語創始人李陽起訴前妻:要求前妻賠償損失1020萬元
NEXT
新研究表明mRNA新冠疫苗對免疫力受損患者是安全的

發表迴響 取消回覆

這個網站採用 Akismet 服務減少垃圾留言。進一步了解 Akismet 如何處理網站訪客的留言資料。

More results...

Generic filters
Exact matches only
Search in title
Search in content
Search in excerpt
Filter by 分類
網站公告
Featured
限時免費
ESET NOD32
WINDOWS 10 &11 INSIDER PREVIEW
Windows 軟件下載
系統軟件
辦公軟件
圖像處理
影音媒體
網絡軟件
應用軟件
Mac 軟件下載
安卓軟件下載
網絡資訊
Mac資訊
Linux資訊
VPS資訊
NASA資訊
金融資訊
WhatsApp Stickers教學
WordPress資訊
WeChat資訊
PHP資訊
Plesk資訊
TensorFlow
教學資源
開源程序
網頁工具
SEO工具
醫療健康
旅遊及消閒
其他資訊
Content from
Content to
2022 年 3 月
一 二 三 四 五 六 日
 123456
78910111213
14151617181920
21222324252627
28293031  
« 2 月   4 月 »

分類

  • 網站公告
  • 限時免費
  • ESET NOD32
  • WINDOWS 10 &11 INSIDER PREVIEW
  • Windows 軟件下載
  • 系統軟件
  • 辦公軟件
  • 圖像處理
  • 影音媒體
  • 網絡軟件
  • 應用軟件
  • Mac 軟件下載
  • 安卓軟件下載
  • 網絡資訊
  • Mac資訊
  • Linux資訊
  • VPS資訊
  • NASA資訊
  • WhatsApp Stickers教學
  • WordPress資訊
  • WeChat資訊
  • PHP資訊
  • Plesk資訊
  • TensorFlow
  • 教學資源
  • 開源程序
  • 網頁工具
  • SEO工具
  • 醫療健康
  • 旅遊及消閒
  • 其他資訊

彙整

近期文章

  • 維基百科預覽代表“所有人類知識的聲音”的音頻標識正式版本製作中 2023-03-29
  • Google計劃在搜索結果頁面中分享高溫警報 2023-03-29
  • 宣稱能跑100公里男子網購電動車續航打折:法院判退一賠三 2023-03-29
  • 媒體創建工具的替代方案使下載Windows 10和11的ISO變得更加容易 2023-03-29
  • GPT-5可能真正使ChatGPT與人類無法區分 2023-03-29
  • 駕車衝撞興安市蘋果德比街零售店的司機被起訴二級謀殺 2023-03-29
  • 德國掀桌歐盟讓步“2035禁燃令”為何不再禁燃油車? 2023-03-29
  • 日本福島核電站1號機組底座已熔化鋼筋裸露在外 2023-03-29
  • 外觀酷似飛天茅台:茅台推出瓶裝冰淇淋 2023-03-29
  • iPhone 15 Pro的固態按鈕在電池耗盡時可能仍然可以工作 2023-03-29

熱門文章與頁面︰

  • DP vs HDMI 誰才是遊戲玩家最佳選擇?
  • Explorer Patcher:讓Windows 11恢復Windows 10的行為特徵
  • 打車叫到特斯拉不會開門很尷尬?官方介紹開關門方法
  • Autodesk AutoCAD 2021 正式版註冊版-簡體/繁體中文/英文版
  • ESET NOD32 LICENSE KEY (UPDATED 2023-01-17)
  • 世界上有多少個國家
  • NVIDIA H100 Hopper加速計算卡上市:配備80GB顯存價格超24萬元
  • 小米MIUI12(安卓11)安裝谷歌套件(GMS/Google Play)
  • Windows 10玩遊戲死機重置顯卡驅動的秘籍你知道嗎?
  • 一鍵GHOST v2020.07.20 正式版-硬盤版/光盤版/優盤版/軟盤版

投遞稿件

歡迎各界人士投遞稿件到admin@wongcw.com

請提供以下資料:

1.你的名字

2.你的電郵

3.分類目錄

4.文章標題

5.文章摘要

6.文章內容

7.文章來源

 

聯繫我們

查詢,投稿,商務合作:
​admin@wongcw.com
​技術支援:
​support@wongcw.com
​客户服務:
​cs@wongcw.com

QQ群:833641851

快帆

MALUS

極度掃描

DMCA.com Protection Status

WONGCW 網誌

  • 免責聲明
  • 捐助我們
  • ThemeNcode PDF Viewer
  • ThemeNcode PDF Viewer SC
  • Events

服務器提供

本站使用之服務器由ikoula提供。

聯繫我們

查詢,投稿,商務合作:
​admin@wongcw.com
​技術支援:
​support@wongcw.com
​客户服務:
​cs@wongcw.com

QQ群:833641851

© 2023   All Rights Reserved.