写CUDA到底难在哪？
来源：
编辑：
时间：2025-06-20 10:40:19
对GPU进行性能优化时，cudagraph是绕不开的话题。
不仅是GPU，大部分的xpu都会提供类似graph mode的优化，相比于每次分别由CPU进行kernel launch的eager mode，graph mode通常都会有较大性能提升，然而也经常容易出现各种各样的奇怪问题。
NVIDIA有一个简单的 博客 介绍，其中只使用了stream capture的形式来构造cudagraph，而且本质上就是多个kernel前后提交，根本无法展示cudagraph的复杂性。
本文尝试从底层原理出发，根据文档 和 …。
-
{dede:pagebreak/}
网友评论：
{dede:include file='ajaxfeedback.htm' /}
栏目分类
最新文章
热门文章
- 消息称三大运营商将于今年下半年全面重启eSIM，eSIM有哪些好处？为何此前暂停这一业务？
- 为什么中国民众的反日情绪如此激烈？
- 程序员不租房住车里，称三年多省了差不多十万，被质疑占用公共***，怎样看他的选择？这算占用公共***吗？
- 有什么好用的连点器,可以录制屏幕那种,免root权限？
- 请问照片里这个人是谁呀？
- 如何评价《一人之下》第722（765）话情报？
- 为什么二游厂商都喜欢推出泳装版本?
- 为什么个人需要公网ip？
- 杨幂论文一年间 AI 率从 0 飙至 91%，为什么会这样？AI 查重到底有没有统一标准？
- 如何看待不超过1879元的Mac mini（M4+16/256GB+票），易用性吊打同级其他台式电脑？