GPGPU Aplikace GPGPU. Obecné výpočty na grafických procesorech. Jan Vacata

Transkript

1 Obecné výpočty na grafických procesorech

2 Motivace Úvod Motivace Technologie 3 GHz Intel Core 2 Extreme QX9650 Výkon: 96 GFLOPS Propustnost paměti: 21 GB/s Orientační cena: 1300 USD NVIDIA GeForce 9800 GX2 Výkon: 768 GFLOPS Propustnost paměti: 128 GB/s Orientační cena: 600 USD Obrázek: Sledování změn výkonu

3 Motivace - pokračování Úvod Motivace Technologie Proč jsou GPU tak rychlé? 1 Technologický důvod: Specializace GPU pro rychlé provádění nezávislých paralelních výpočtů 2 Ekonomický důvod: Obrovský trh s počítačovými hrami Podrobněji: Propustnost paměti Široká paměťová směrnice pro rychlé čtení z textur (384 bitů u G80) Vícejádrové procesory - budoucnost paralelních výpočtů Nejnovější CPU (AMD, Intel) 8 jader GPU NVidia G ( 2) jader GPU AMD RV ( 2) jader

4 Tradiční Moderní, NVIDIA CUDA General Purpose Computation on GPUs () Nevýhody tradičního : Nepřirozený programovací model, obtížné pro vývojáře neznalé principů zpracování 3D grafiky Další nevýhody spojené s využitím grafického API Obrázek: Tradiční

5 NVIDIA CUDA Úvod Tradiční Moderní, NVIDIA CUDA NVIDIA CUDA (z angl. Compute Unified Device Architecture) Kombinace SW/HW řešení (Změny v HW, ovladač grafické karty, runtime knihovna) GPU jako jistá forma architektury se sdílenou pamětí GPU jako koprocesor pro provádění nezávislých, datově paralelních výpočtů Snadno uchopitelný programovací model, naprosté odstínění od grafických pojmů Očekávaná podpora aritmetiky fp64 (double)

6 Řešení soustav lineárních algebraických rovnic Ax = b, A R n,n regulární, x R n, b R n Nejznámější zástupci nestacionárních iteračních metod Hledáme aproximaci přesného řešení x v prostoru K m (A, r 0 ) = [r 0, Ar 0, A 2 r 0,..., A m 1 r 0 ] λ, r 0 = b Ax 0 Metodám společné 1 Nalezení ortonornální báze K m(a, r 0) = [v 1,..., v m] λ, V T m V m = I 2 Hledání aproximace ve tvaru x m = x 0 + V my m

7 - pokračování Konkrétní metody: Metoda Konjugovaných gradientů (CG) r m = b Ax m K m (A, r 0 ) Minimalizuje x x m A = (A(x x m ), x x m ) 1 2 Metoda Zobecněných minimálních reziduí (GMRES) r m = b Ax m AK m (A, r 0 ) Minimalizuje b Ax m 2

8 Typy a struktura operací (CG, GMRES) Operace Saxpy y = αx + y x, y R n, α R Sdot α = (x, y) x, y R n, α R SpMV y = Ax x, y R n, A R n,n Struktura operací Metoda Sdot Saxpy SpMV Předpodmínění CG GMRES i + 1 i

9 Měření operací Saxpy/Sdot Optimalizované funkce knihovny MKL na straně hostitele Optimalizované funkce knihovny CUBLAS Uživatelská implementace (CUDA) CPU MKL GPU User Kernel GPU CUBLAS CPU MKL GPU User Kernel GPU CUBLAS GB/s 40 GB/s # of elements (x 10 6 ) # of elements (x 10 6 ) Obrázek: Operace Saxpy Obrázek: Operace Sdot

10 Měření operace SpMV Úvod OpenMP paralelizovaná implementace na straně hostitele Naivní CUDA implementace Optimalizovaná CUDA implementace 25 CPU User GPU Naive GPU Optimized CPU User GPU Naive GPU Optimized GB/s GB/s # of elements (x 10 6 ) # of elements (x 10 6 ) Obrázek: Operace SpMV - náhodná nestrukturovaná matice Obrázek: Operace SpMV - matice s několika diagonálami

11 Testované matice Úvod Matice Dubcova3 Matice parabolic fem Matice thermal2 Matice helm2do3 Matice language Matice cage14

12 Výsledky měření metody CG Matice Dubcova3 parabolic fem thermal2 Rozměr Počet nenul Počet Iterací CPU Čas výpočtu (s) CSR uloženo hodnot Norma rezidua Chyba GPU Čas výpočtu (s) PCSR uloženo hodnot Norma rezidua Chyba Relativní urychlení

13 Výskedky měření metody GMRES Matice helm2d03 language cage14 Rozměr Počet nenul Restartování Počet Iterací CPU Čas výpočtu (s) CSR uloženo hodnot Norma rezidua Chyba GPU Čas výpočtu (s) PCSR uloženo hodnot Norma rezidua Chyba Relativní urychlení

14 Literatura Úvod. : Obecné výpočty na grafických procesorech diplomová práce, Owens, J. D.; Houston, M.; Luebke, D.; Green, S.; Stone, J. E.; Phillips, J. C. GPU Computing. Proceedings of the IEEE 96(5): ,