你平时看到的 __global__ 、 threadIdx 、 cudaMalloc，只是整个 CUDA 平台最底层的一部分，随着时间推移， CUDA 平台 的范围不断膨胀， 原先首字母缩略词所代表的字面含义，已经很难再准确描述如 …

本人是NLP搬砖工，并不专门研究CUDA算子。我看了几个回答没看见特别通俗易懂的，所以我想尝试以一个外行人的身份给其他外行人解释。所以我主要注重懂，而不是准。 在CUDA生态的最低层就是 …

本人是NLP搬砖工，并不专门研究CUDA算子。我看了几个回答没看见特别通俗易懂的，所以我想尝试以一个外行人的身份给其他外行人解释。所以我主要注重懂，而不是准。 在CUDA生态的最低层就是 …

于是，我决定将自己先前整理的CUDA-Learn-Notes笔记，继续扩展，经过将近一年的业余时间的努力，终于达到了我认为可以开写CUDA基础系列笔记的状态。 材料准备好了，25年继续更新笔记，保 …

与其说CUDA是护城河，倒不如说Nvidia在科学计算、自动驾驶、人工智能、机器人这些领域已经形成了护城河，CUDA只是这个护城河的一部分，或者说是直接能接触到的护城河。

2 days ago · 1080P/2K/4K分辨率，以RTX 5050为基准（25款主流游戏测试成绩取平均值） 数据来源于：TechPowerUp 桌面端显卡天梯图：

Jan 4, 2025 · Modern CUDA Learn Notes with PyTorch for Beginners 200+ CUDA/Tensor Cores Kernels

国产GPU厂商非常清楚，当今的AI和高性能计算（HPC）世界是建立在CUDA之上的。 如果要求所有开发者抛弃数十年积累的CUDA代码，去学习一个全新的编程语言，那将是“生态自杀”。 因此，“国产 …

cuda runtime为每个device保留了一个专门用于graph的memory pool。 用户无法创建、删除这个graph memory pool，无法拿到handle，只能通过专门的 cudaDeviceGetGraphMemAttribute / …

2. CUDA 编程模型概述 Introducing the CUDA Programming Model CUDA 编程模型作为连接应用程序与异构计算硬件的桥梁，采用编译型语言范式实现高效执行。与 OpenCL 采用的运行时 即时编 …