CUDA é atualmente a principal ferramenta para programação de GPU, e a GPU é um dos desenvolvimentos de hardware mais empolgantes das últimas décadas. Com CUDA, você pode usar um computador desktop para concluir tarefas que originalmente exigiam grandes clusters de computadores ou instalações de computação de alto desempenho. Portanto, CUDA está se tornando cada vez mais importante na computação científica em todas as comunidades de ciência, tecnologia, engenharia e matemática, desde física médica até modelagem financeira e aplicações de big data. Este livro reúne a rica experiência do autor no desenvolvimento e uso de computadores de longo prazo para aquisição e análise de dados científicos, e o conteúdo é detalhado. Ao mesmo tempo, este livro também é um trabalho inovador e, em comparação com outros livros semelhantes sobre computação em GPU, oferece exemplos mais abundantes. O autor dedica grande atenção à compactação, excelente

●Prefácio do Tradutor
Prefácio
Capítulo 1 Introdução ao Kernel e Hardware da GPU 1
1.1 Antecedentes 1
1.2 Primeiro Exemplo CUDA 2
1.3 Arquitetura da CPU 9
1.4 Potência de computação da CPU 10
1.5Gerenciamento de memória da CPU: usando o cache para ocultar a latência 11
1.6CPU: Conjunto de Instruções Paralelas 13
1.7 Arquitetura de GPU 13
1.7.1 Revisão da História 13
1.7.2 NVIDIA GPU Modelo 14
1.8 Arquitetura Pascal 14
1.9 Tipo de memória GPU 16
1.10 warp e wave17
1.11 Blocos e grades de threads 18
1.12 Taxa de ocupação 19
Capítulo 1 Notas 20
Capítulo 2 Pensamento e Programação Paralela 21
2.1 Classificação Flynn 21
2.2 Sintaxe de chamada de função do kernel 28
2.3 Inicie a função kernel tridimensional 29
2.4 Ocultação de Latência e Ocupação 35
2.5 Modo Paralelo 36
2.6 Redução Paralela 37
2.7 Memória Compartilhada 48
2.8 Multiplicação de matrizes 51
2.9 Multiplicação de matrizes de bloco 58
2.10BLAS62
Capítulo 2 Notas 66
Capítulo 3 Warps e Grupos Cooperativos 68
3.1 Objetos CUDA em Grupos Cooperativos 71
3.2 Bloco de partição 75
3.3 Carregamento de vetores 81
3.4 Funções internas de nível Warp e sub-Warp84
3.5 Divergência e sincronização de threads 85
3.6 Evitando Deadlock 87
3.7 Grupo Colaborativo 91
3.8 Recursos do HPC 97
Capítulo 3 Notas 98
Capítulo 4 Modelos Paralelos 100
4.1 Modelo bidimensional 100
4.2 Cálculo em cascata de modelos bidimensionais 112
4.3 Modelo tridimensional 116
4.4 Processamento de Imagem Digital 119
4.5 Filtro Sobel 127
4.6 Filtro Mediano 127
Capítulo 4 Notas 132
Capítulo 5 Texturas 133
5.1 Interpolação de Imagem 134
5.2 Textura GPU 135
5.3 Rotação de imagem 137
Função 5.4lerp 138
5.5 Hardware de textura 141
5.6 Imagens coloridas 146
5.7 Visualização de imagem 148
5.8 Transformação Afim de Imagens Estéreo 151
5.9 Registro de Imagem Tridimensional 156
5.10 Resultados do Registro de Imagem 164
Capítulo 5 Notas 166
Capítulo 6 Aplicações de Monte Carlo 167
6.1 Introdução 167
Biblioteca 6.2cuRAND 173
6.2.1 API de host cuRAND 173
6.2.2 API do dispositivo cuRAND 178
6.3 Gerando outras distribuições 184
6.4 Modelo Ising 186
Capítulo 6 Notas 194
Capítulo 7 Concorrência usando fluxos e eventos CUDA 206
7.1 Execução simultânea de funções do kernel 196
7.2 Exemplo de pipeline CUDA 198
7.3thrust e cudaDeviceReset202
7.4 Resultados do Exemplo de Pipeline 203
7.5 Eventos CUDA 205
7.6 Sobrecarga de disco 212
7.7 CUDA Figura 219
Capítulo 7 Notas 224
Capítulo 8 Aplicações dos Scanners PET 225
8.1 Introdução ao PET 225
8.2 Definição de Armazenamento de Dados e Geometria do Scanner 227
8.3 Simulando um PET Scanner 233
8.4 Estabelecendo a Matriz do Sistema 244
Reconstrução 8.5PET 246
8.6 RESULTADOS 250
8.7 Implementação do OSEM 252
8.8 Profundidade de interação 254
8.9 Resultados PET usando profundidade de interação 257
8.10 Detector de Bloco 258
8.11 Richardson-Lucy Desfoque de imagem 268
Capítulo 8 Notas 273
Capítulo 9 Extensão 276
9.1 Seleção de GPU 278
9.2 Endereçamento Virtual Unificado CUDA 281
9.3 Acesso CUDA P2P 282
9.4 Memória de cópia zero CUDA 284
9.5 Memória Unificada 285
9.6 Uma breve introdução ao MPI 295
Capítulo 9 Notas 305
Capítulo 10 Análise de Desempenho e Ferramentas de Depuração 306
Exemplo 306 do 10.1gpulog
10.2 Criação de perfil com nvprof 311
10.3 Criação de perfil com NVIDIA Visual Profiler 314
10.4Sistemas Nsight316
10.5Nsight Compute319
10.6 Nsight Compute Seção 320
10.6.1 GPU LightSpeed ​​​​320
10.6.2 Análise Computacional de Carga de Trabalho 321
10.6.3 Análise de carga de trabalho de memória 322
10.6.4 Estatísticas do Agendador 323
10.6.5 estatísticas de status de distorção 323
10.6.6 Estatísticas de Instrução 324
10.6.7 Estatísticas de inicialização 324
10.6.8 Ocupação 326
10.6.9 Contador de Fontes 327
10.7 Depuração com printf 328
10.8 Depuração com o Microsoft Visual Studio 330
10.9 Depuração do código de função do kernel 332
10.10 Verificação de memória 334
10.10.1cuda-memcheck334
10.10.2 Ferramentas Linux 336
10.10.3 Filtros de computação CUDA 336
Capítulo 10 Notas 337
Capítulo 11 Tensor Core 338
11.1 Núcleos Tensores e FP16338
11.2 Função de Matriz de Deformação 340
11.3 Tipos de dados suportados 345
11.4 Algoritmo de redução do núcleo tensor 346
11.5 Conclusão 351
Capítulo 11 Notas 351
Adendo 352
Apêndice A Breve Histórico do ACUDA 352
Apêndice B Operações Atômicas 361
Apêndice Compilador CNVCC 366
Apêndice DAVX e compilador Intel 372
Apêndice E Formato Digital 380
Apêndice Documentação e Biblioteca da FCUDA 384
Apêndice GCX Arquivo de Cabeçalho 387
Apêndice HAI e Python410
Apêndice IC++ Tópicos 413

Este livro é um guia prático e aprofundado para a programação CUDA. Escrito por especialistas experientes na área de programação CUDA, ele apresenta principalmente a programação de GPUs NVIDIA usando C++, abrangendo kernels e hardware de GPU, pensamento e programação paralelos, warps e grupos cooperativos, modelos paralelos, texturas, aplicações de Monte Carlo, etc., com o objetivo de ajudar os leitores a dominar rapidamente as principais habilidades da programação CUDA. O livro apresenta os conceitos básicos, a arquitetura e o modelo de programação de CUDA em detalhes e orienta os leitores sobre como escrever, otimizar e depurar programas CUDA por meio de casos práticos ricos e análises detalhadas. Este livro se concentra na combinação de teoria e prática, com o objetivo de cultivar a capacidade dos leitores de resolver problemas práticos. Sejam os leitores iniciantes ou desenvolvedores experientes, eles podem se beneficiar deste livro. Dominar as habilidades de programação CUDA adicionará competitividade importante ao desenvolvimento da carreira dos leitores e os ajudará a se destacarem em pesquisa científica, desenvolvimento de engenharia, análise de dados e outros campos.