NVIDIA CUDA是英伟达显卡加速平台,CUDA是NVIDIA发明了一种并行计算平台和编程模型。通过利用图形处理单元(GPU)的功能,可以显着提高计算性能。
基本简介CUDA的开发考虑了几个设计目标:
提供对标准编程语言(例如C)的一小部分扩展,这些扩展可实现并行算法的直接实现。使用CUDA C / C ++,程序员可以专注于算法的并行化任务,而不必花时间在其实现上。
在应用程序同时使用CPU和GPU的情况下支持异构计算。应用程序的串行部分在CPU上运行,并行部分被卸载到GPU。这样,CUDA可以增量地应用于现有应用程序。CPU和GPU被视为具有各自内存空间的单独设备。此配置还允许在CPU和GPU上同时进行计算,而不会争用内存资源。
具有CUDA功能的GPU具有数百个内核,这些内核可以共同运行数千个计算线程。这些内核具有共享资源,包括寄存器文件和共享内存。片上共享内存允许在这些内核上运行的并行任务共享数据,而无需通过系统内存总线发送数据。
使用方法评估
对于现有项目,第一步是评估应用程序,以找到负责大部分执行时间的代码部分。有了这些知识,开发人员就可以评估这些瓶颈以进行并行化,并开始研究GPU加速。
通过了解最终用户的要求和约束并应用阿姆达尔定律和古斯塔夫森定律,开发人员可以通过加速应用程序已识别部分来确定性能改进的上限。
平行化
在确定了热点并完成了设置目标和期望的基本练习之后,开发人员需要并行处理代码。根据原始代码,这可以像调用现有的GPU优化库一样简单,例如立方玻璃, 傅立叶变换, 要么 推力,也可以像向并行化编译器添加一些预处理器指令一样简单。
另一方面,某些应用程序的设计将需要进行一些重构以暴露其固有的并行性。由于甚至CPU架构也需要公开并行性以改善或简单地维护顺序应用程序的性能,因此CUDA并行编程语言家族(CUDA C ++,CUDA Fortran等)旨在使这种并行性的表达尽可能地简单。 ,同时在支持CUDA的GPU上启用操作,这些GPU设计用于实现最大并行吞吐量。
优化
在完成每一轮应用程序并行化之后,开发人员可以着手优化实现以提高性能。由于可以考虑许多可能的优化,因此充分了解应用程序的需求可以帮助使过程尽可能地流畅。但是,与整个APOD一样,程序优化是一个反复的过程(确定优化机会,应用和测试优化,验证所实现的加速并重复),这意味着程序员在看到良好的加速效果之前不必花费大量时间来记住所有可能的优化策略。相反,可以在学习策略时逐步应用它们。
从重叠的数据传输到计算一直到微调浮点运算序列,优化可以应用于各种级别。可用的概要分析工具对于指导此过程非常有用,因为它们可以帮助建议开发人员进行优化工作的最佳方案,并为该指南的优化部分的相关部分提供参考。
部署
完成应用程序一个或多个组件的GPU加速后,可以将结果与原始期望进行比较。回想一下,初始评估步骤允许开发人员确定通过加速给定热点可获得的潜在加速的上限。
在解决其他热点以提高总体速度之前,开发人员应考虑采用部分并行的实现,并将其付诸实践。这很重要,原因有很多;例如,它允许用户尽早从他们的投资中获利(提速可能是部分的,但仍然是有价值的),并且通过向开发者提供一组渐进而不是革命性的更改,将开发人员和用户的风险降至最低。应用。
软件组成GPU加速库
CUDA-X库
IndeX框架(IndeX)
语言解决方案
OpenACC编译器指令
NVIDIA CUDA C / C ++编译器(NVCC)
参考资料
CUDA C / C ++代码示例
CUDA文档
开发工具
NVTAGS
DIGITS深度学习培训系统
Nsight集成开发环境
可视分析器
CUDA-GDB命令行调试器
CUDA-MEMCHECK内存分析仪
加载全部内容
联想M7405D驱动下载-联想M7405D打印机驱动下载 v1.0官方版31.3M1244人在玩联想M7405D打印机驱动是联想官方的联想M7405D型号打印机的驱动软件,利用该驱动能够保证用户正常连接联想M7405D打印机,进行正常的扫描和打印,有需要的可以下载使用。
下载雷云2.0下载-雷蛇云驱动(Razer Synapse 2.0)下载 v2.21.24.34官方版25.6M890人在玩RazerSynapse2.0主要作用就是云端同步你的雷蛇设置,简化调试外设的过程,方便你外出时调用设置好的雷蛇配置。
下载京瓷FS-C8520MFP驱动-京瓷FS-C8520MFP打印机驱动下载 v6.1.0826官方版58.7M740人在玩京瓷FS-C8520MFP打印机驱动是京瓷FS-C8520MFP一体机的官方驱动软件,通过京瓷FS-C8520MFP打印机驱动用户能够将电脑和打印机进行连接,从而保证设备的正常的运行扫描和打印功能。
下载柯尼卡美能达C7222驱动-柯尼卡美能达C7222驱动下载 v1.0官方版20.5M677人在玩柯尼卡美能达C7222驱动是柯尼卡美能达bizhubC7222型号打印机的官方驱动软件,如果用户所使用的打印机型号是柯尼卡美能达C7222,则需要安装对应驱动,有需要的可以下载使用。
下载富士施乐M115w驱动-富士施乐M115w一体机驱动下载 v1.0官方版31.9M528人在玩富士施乐M115w一体机驱动是富士施乐M115w型号一体机的官方驱动软件,只有正常安装了对应型号的打印机驱动的用户才能使用打印机的功能和正常连接电脑。
下载罗技G502HERO驱动-罗技G502HERO驱动下载 v9.02.65官方版120.0M519人在玩罗技G502HERO驱动是一款专为同名鼠标打造的驱动程序,通过安装驱动可以实现对鼠标的全面控制,支持编辑快捷键,支持调整鼠标的灯光效果和解决一些无法连接的问题等等。
下载联想M7455DNF驱动下载-联想M7455DNF打印机驱动下载 v1.0官方版31.3M501人在玩联想M7455DNF打印机驱动是联想官方的联想M7455DNF型号打印机的驱动软件,利用该驱动能够保证用户正常连接联想M7455DNF打印机,进行正常的扫描和打印,有需要的可以下载使用。
下载得力M2500D驱动下载-得力M2500D一体机驱动下载 v1.2官方版3.9M462人在玩得力M2500D一体机驱动是得力官方的m2500d黑白激光多功能一体机的官方驱动软件,只有使用了得力M2500D一体机驱动才能保障一体机和电脑的正常连接,有需要的可以下载使用。
下载奔图P3301DN打印机驱动-奔图P3301DN打印机驱动下载 v1.1.0官方版12.6M457人在玩奔图P3301DN打印机驱动是奔图P3301DN型号打印机的官方驱动软件,如果用户所使用的打印机型号是奔图P3301DN,则需要安装对应驱动才能够正常的进行打印复印功能。
下载联想M101DW打印机驱动下载-联想M101DW打印机驱动下载 v1.0官方版7.3M439人在玩联想M101DW打印机驱动是联想官方的M101DW型号打印机的驱动软件,只有安装了该驱动软件才能正常的进行打印和扫描功能,有需要的可以下载使用。
下载