近日，螞蟻集團向自研的 GPU 顯存 + 傳輸優化開源項目 GLake 上集成了一種高效的動態顯存組合技術框架——GMLake，同時宣佈 GMLake 已被深度學習主流框架 PyTorch 集成，對上層模型代碼和框架代碼完全透明，模型不需要修改任何代碼即可使用。據介紹，GMLake 能夠在大模型訓練、推理框架底層以及系統層對顯存和傳輸進行一體優化，將碎片化的顯存靈活地拼接起來，最高提高 33% 的 GPU 可用顯存，使顯存使用更為高效。

阿里巴巴

阿里巴巴-W

螞蟻集團

<p>螞蟻集團自研的 GPU 顯存 + 傳輸優化開源項目 GLake 集成了高效的動態顯存組合技術框架 GMLake，並宣佈 GMLake 已被深度學習主流框架 PyTorch 集成。GMLake 能夠在大模型訓練、推理框架底層以及系統層對顯存和傳輸進行一體優化，最高提高 33% 的 GPU 可用顯存。這一技術使顯存使用更為高效。</p>

螞蟻集團：自研 GMLake 已被 PyTorch 集成，可提升 33% GPU 可用顯存