GPU并行计算在高性能计算中的应用算法优化研究.docx

GPU并行计算在高性能计算中的应用算法优化研究

目录

一、内容描述．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．4

1.1研究背景与意义．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．5

1.1.1高性能计算发展现状．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．10

1.1.2图形处理器技术演进．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．11

1.2国内外研究现状．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．13

1.2.1GPU并行计算应用概述．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．14

1.2.2算法优化技术进展．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．15

1.3研究内容与目标．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．18

1.3.1主要研究问题界定．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．18

1.3.2预期研究成效．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．19

1.4技术路线与研究方法．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．20

1.4.1研究实施步骤．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．22

1.4.2采用的关键技术．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．22

二、GPU并行计算基础理论．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．26

2.1图形处理器架构特性．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．27

2.1.1多核处理单元结构．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．28

2.1.2内存层次与共享机制．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．29

2.2并行计算模型．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．30

2.2.1数据并行与线程并行．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．32

2.2.2CUDA与OpenCL编程框架．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．36

2.3高性能计算应用场景．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．37

2.3.1科学计算领域．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．39

2.3.2数据密集型任务．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．40

三、高性能计算中典型算法分析．．．．．．．．．．．．．．．．．．．．．．．．．．．．．41

3.1线性代数运算类算法．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．45

3.1.1矩阵乘法与变换．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．47

3.1.2方程组求解．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．48

3.2数据处理与转换类算法．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．49

3.2.1图像/视频处理．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．50

3.2.2字符串匹配与排序．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．53

3.3机器学习与人工智能算法．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．58

3.3.1神经网络训练．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．59

3.3.2模式识别与分类．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．60

四、基于GPU的算法并行化策略．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．62

4.1数据布局与内存访问优化．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．64

4.1.1数据分区与迁移策略．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．66

4.1.2共享内存利用最大化．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．69

4.2线程组织与调度优化．．