TEL::0898-88889999

网站公告:

诚信为本:市场永远在变,诚信永远不变。

主营项目

  • 始终怀不上孕是种怎样的体验?
  • RISC-V 架构能否有效挑战 ARM 和英特尔?
  • OpenAI 开源 BrowseComp,重塑 Agent 浏览器评测,这意味着什么?
  • MiniMax Week第三天推出通用 Agent,体验如何?对行业会带来哪些影响?
  • 如何评价【极客湾】在直播中实锤【B 站不交保护费就限流】?
  • 个人开发者或小企业不申请经营性ICP备案,怎样开发APP盈利?

新闻动态

当前位置: 首页 > 新闻动态

写CUDA到底难在哪?

对GPU进行性能优化时,cudagraph是绕不开的话题。

不仅是GPU,大部分的xpu都会提供类似graph mode的优化,相比于每次分别由CPU进行kernel launch的eager mode,graph mode通常都会有较大性能提升,然而也经常容易出现各种各样的奇怪问题。

NVIDIA有一个简单的 博客 介绍,其中只使用了stream capture的形式来构造cudagraph,而且本质上就是多个kernel前后提交,根本无法展示cudagraph的复杂性。

本文尝试从底层原理出发,根据文档 和 …。

写CUDA到底难在哪?
上一篇:有没有一个特别好用的Linux系统?
下一篇:洞庭湖为什么越来越小, 会消失吗?