【学习AI-相关路程-工具使用-自我学习-cuda&visco-开发工具尝试-基础样例 （2）】

【学习AI-相关路程-工具使用-自我学习-cuda&visco-开发工具尝试-基础样例 （2）】

• 1、前言
• 2、环境说明
• 3、总结说明
• 4、工具安装
• • • 0、验证cuda
    • 1、软件下载
    • 2、插件安装
    • 5、软件设置与编程练习
    • • • 1、创建目录
        • 2、编译软件进入目录&创建两个文件
        • 3、编写配置文件
        • 5、编写代码文件
        • 6、调试&验证
        • 7、代码解读
        • • • （1）包含头文件和定义CUDA内核
            • （2）主函数内的变量定义和内存分配
            • （3）初始化向量并复制到设备
            • （4）内核调用
            • （5）检查错误和回复结果
            • （6）验证结果
            • （7）清理内存
            • 6、代码链接
            • 7、细节部分
            • • • 1、问题1：一个错误
                • 2、问题：使用命令nvidia-smi,无法调出如下信息。
                • 3、Tasks：configure tasks,自动创建tasks.json
                • 8、总结

                  1、前言

                  我们之前安装了cuda，但是我们其实是无法直接使用cuda的，还需要编译器，类似前端，供我们输入代码，好让我们可以将思想延伸。

                  同时也本篇，也是续写上一篇，我们将在本篇安装开发工具，来写一个简单dome，调用cuda平台相关套件，相当Hello World。

                  前文链接：【学习AI-相关路程-工具使用-自我学习-NVIDIA-cuda-工具安装 （1）】

                  2、环境说明

                  这里准备安装Visual Studio code 这个工具，可以看到，只用这个工具是支持不同系统的，visual studio，只是支持win下。

                  下载链接：https://visualstudio.microsoft.com/zh-hans/

                  

                  当然如果使用运行cuda，还可以使用Python 语言，是使用另一个工具，目前自己刚学到这里，以后要是学了再写文章。

                  3、总结说明

                  （1）了解Visual Studio code

                  一般来说，想编写程序的话，或多或少，都会了解到这个工具，即使没用过，也会听过。更多的可以看文档。

                  链接文档：https://code.visualstudio.com/docs

                  

                  如果因为不太好，可以选择一些翻译工具。

                  （2）装插件和cuda

                  安装好了编译工具后，就是安装插件工具，因为Visual Studio code本身支持很多，不是一起全部安装的，需要根据自己需求灵活选。

                  （3）练习代码

                  最后就是练习一下代码，调用对库，在编译好的软件，运行过程中，就是在使用GPU了。我们通过这个简单样例，来熟悉一下一些库。

                  4、工具安装

                  0、验证cuda

                  使用其他工具前，先要验证下，自己是否已经支持了cuda，或者说是否已经安装了cuda。

                  nvcc -V
                  或者
                  nvcc --version
                  

                  一般来说安装好后，会出现如下信息。

                  

                  1、软件下载

                  如下链接，选择一个自己合适的版本。

                  下载链接：https://visualstudio.microsoft.com/zh-hans/#vscode-section

                  

                  安装命令：

                  sudo dpkg -i code_1.89.0-1714530869_amd64.deb
                  

                  2、插件安装

                  如下图，我这里编写c/c++语言和cuda，一搜基本就会出来。

                  

                  如下是我自己的选择的插件

                  

                  5、软件设置与编程练习

                  1、创建目录

                  我们先在桌面创建一个文件夹，自己自己定就好，不必和我一致。

                  

                  2、编译软件进入目录&创建两个文件

                  我们用Visual Studio code软件进入对应目录，然后创建两个文件。之后就是准备编写内容了。

                  

                  3、编写配置文件

                  配置文件，顾名思义，就是告诉编译器，去哪里找工具，使用什么工具编译等等配置信息的文件。

                  {
                      "version": "2.0.0",
                      "tasks": [
                          {
                              "label": "Build CUDA project",
                              "type": "shell",
                              "command": "/usr/local/cuda/bin/nvcc",
                              "args": [
                                  "-arch=sm_35", // 根据你的GPU架构适当修改
                                  "${file}",
                                  "-o",
                                  "${fileDirname}/${fileBasenameNoExtension}.out"
                              ],
                              "group": {
                                  "kind": "build",
                                  "isDefault": true
                              },
                              "problemMatcher": "$gcc"
                          }
                      ]
                  }
                  

                  如下为截图。

                  

                  5、编写代码文件

                  代码文件，就是我们实际要编写代码的文件，也是我们想法延伸。

                  #include 
                  // CUDA Kernel for Vector Addition
                  __global__ void vecAdd(float *A, float *B, float *C, int N) {
                      int i = blockDim.x * blockIdx.x + threadIdx.x;
                      if (i  
                  以下为截图
                   
                  6、调试&验证
                   
                  自己在调试
                   
                  （1）调试
                   
                  （2）成功
                   
                  7、代码解读
                   
                  本代码是在网上找到一个样例，是一个使用CUDA进行向量加法的简单例子。
                   
                  简单理解下，以后看多了大概就明白了。
                   
                  （1）包含头文件和定义CUDA内核
                   
                  #include 
                  // CUDA Kernel for Vector Addition
                  __global__ void vecAdd(float *A, float *B, float *C, int N) {
                      int i = blockDim.x * blockIdx.x + threadIdx.x;
                      if (i  
                  （2）主函数内的变量定义和内存分配
                   
                  int main() {
                      int N = 1024; // Size of vectors
                      float *h_A, *h_B, *h_C; // Host vectors
                      float *d_A, *d_B, *d_C; // Device vectors
                      h_A = (float *)malloc(N * sizeof(float));
                      h_B = (float *)malloc(N * sizeof(float));
                      h_C = (float *)malloc(N * sizeof(float));
                      cudaMalloc(&d_A, N * sizeof(float));
                      cudaMalloc(&d_B, N * sizeof(float));
                      cudaMalloc(&d_C, N * sizeof(float));
                   
                  （3）初始化向量并复制到设备
                   
                      for (int i = 0; i  
                  （4）内核调用
                   
                      int threadsPerBlock = 256;
                      int blocksPerGrid = (N + threadsPerBlock - 1) / threadsPerBlock;
                      vecAdd(d_A, d_B, d_C, N);
                   
                  （5）检查错误和回复结果
                   
                      cudaError_t err = cudaGetLastError();
                      if (err != cudaSuccess) {
                          fprintf(stderr, "Failed to launch vecAdd kernel (error code %s)!\n", cudaGetErrorString(err));
                          exit(EXIT_FAILURE);
                      }
                      cudaMemcpy(h_C, d_C, N * sizeof(float), cudaMemcpyDeviceToHost);
                   
                  （6）验证结果
                   
                      bool success = true;
                      for (int i = 0; i  
                  （7）清理内存
                   
                      free(h_A);
                      free(h_B);
                      free(h_C);
                      cudaFree(d_A);
                      cudaFree(d_B);
                      cudaFree(d_C);
                   
                  6、代码链接
                   
                  代码链接：https://download.csdn.net/download/qq_22146161/89273073
                   
                  7、细节部分
                   
                  1、问题1：一个错误
                   
                  具体什么错误有点记不清了，这里记录下吧。
                   
                  2、问题：使用命令nvidia-smi,无法调出如下信息。
                   
                  如上图，自己在安装过程中，突然发现nvidia-smi命令，因为一直安装各种东西，应该是影响到了，不反馈信息，后重启解决了。
                   
                  3、Tasks：configure tasks,自动创建tasks.json
                   
                  稍微有点时间，不过我没记错的话，使用 查看>>命令面板，可以直接创建这个tasks.json文件。
                  如下步骤
                   
                   
                  8、总结
                   
                  很多时候，其实是无法理解每一步，只有常看，才能大致记住，更多调试，后续也会慢慢学习。