Računalniške delavnice FMF: Delavnica MPI

Transkript

1 Računalniške delavnice FMF: Delavnica MPI Matevž Jekovec Laboratorij za vseprisotne sisteme UL FRI lusy.fri.uni-lj.si 18. april maj 2014

2 Motivacija Moorov zakon: število tranzistorjev v integriranih vezjih se podvoji vsaki dve leti.

3 Motivacija Kaj pa zmogljivost?

4 Motivacija Kaj pa zmogljivost? Frekvenca se poveča za faktor 1,4 vsako leto: neposredna pohitritev.

5 Motivacija Kaj pa zmogljivost? Frekvenca se poveča za faktor 1,4 vsako leto: neposredna pohitritev. Frekvenca Pentiuma 4 doseže 4 GHz leta 2000 (v laboratoriju tudi 10 GHz).

6 Motivacija Kaj pa zmogljivost? Frekvenca se poveča za faktor 1,4 vsako leto: neposredna pohitritev. Frekvenca Pentiuma 4 doseže 4 GHz leta 2000 (v laboratoriju tudi 10 GHz). Po tem frekvenca stagnira. Zmogljivost se povečuje z drugimi optimizacijami in vzporednostjo.

7 Družine vzporednih arhitektur Način komunikacije: z deljenim pomnilnikom, z izmenjavo sporočil.

8 Družine vzporednih arhitektur Način komunikacije: z deljenim pomnilnikom, z izmenjavo sporočil. Družine vzporednih arhitektur: Večjedrne arhitekture s skupnim pomnilnikom Mnogojedrne arhitekture s skupnim pomnilnikom Porazdeljene arhitekture z izmenjavo sporočil

9 Večjedrne arhitekture z deljenim pomnilnikom Nekaj 10 jeder na enem čipu.

10 Večjedrne arhitekture z deljenim pomnilnikom Nekaj 10 jeder na enem čipu. Vsa jedra imajo dostop do celotnega pomnilnika.

11 Večjedrne arhitekture z deljenim pomnilnikom Nekaj 10 jeder na enem čipu. Vsa jedra imajo dostop do celotnega pomnilnika. Primer: Osebni računalniki Intel/AMD.

12 Mnogojedrne arhitekture s skupnim pomnilnikom Več 1000 jeder na enem čipu. Jedra so enostavnejša. Nimajo vsi dostopa do vsega pomnilnika.

13 Mnogojedrne arhitekture s skupnim pomnilnikom Več 1000 jeder na enem čipu. Jedra so enostavnejša. Nimajo vsi dostopa do vsega pomnilnika. Predpostavka: Single-Instruction Multiple-Data

14 Mnogojedrne arhitekture s skupnim pomnilnikom Več 1000 jeder na enem čipu. Jedra so enostavnejša. Nimajo vsi dostopa do vsega pomnilnika. Predpostavka: Single-Instruction Multiple-Data Primer: NVidia CUDA Fermi s 16 SM are positioned around a common L2 cache. Each SM is a vertical rectangular strip that contain an orange portion (scheduler and dispatch), a green portion (execution units), and light blue portions (register file and L1 cache).

15 Mnogojedrne arhitekture s skupnim pomnilnikom Instruction Cache Warp Scheduler Dispatch Unit Warp Scheduler Dispatch Unit Register File (4096 x 32-bit) LD/ST LD/ST LD/ST LD/ST SFU CUDA Dispatch Port Operand Collector FP Unit INT Unit LD/ST LD/ST LD/ST LD/ST SFU Result Queue LD/ST LD/ST LD/ST LD/ST SFU LD/ST LD/ST LD/ST LD/ST SFU Interconnect Network 64 KB Shared Memory / L1 Cache Uniform Cache Fermi Streaming Multiprocessor (SM)

16 Porazdeljene arhitekture z izmenjavo sporočil Več 1000 vozlišč, povezanih v mrežo.

17 Porazdeljene arhitekture z izmenjavo sporočil Več 1000 vozlišč, povezanih v mrežo. Vsako vozlišče ima neposreden dostop do lokalnega pomnilnika.

18 Porazdeljene arhitekture z izmenjavo sporočil Več 1000 vozlišč, povezanih v mrežo. Vsako vozlišče ima neposreden dostop do lokalnega pomnilnika. Dostop do bolj oddaljenega pomnilnika z izmenjavo sporočil.

19 Porazdeljene arhitekture z izmenjavo sporočil Več 1000 vozlišč, povezanih v mrežo. Vsako vozlišče ima neposreden dostop do lokalnega pomnilnika. Dostop do bolj oddaljenega pomnilnika z izmenjavo sporočil. Primer: IBM Bluegene/L

20 Kako programiramo vzporedne aplikacije? Kako izgledajo vzporedne aplikacije?

21 Kako programiramo vzporedne aplikacije? Kako izgledajo vzporedne aplikacije? Odvisno od arhitekture!

22 Kako programiramo vzporedne aplikacije? Kako izgledajo vzporedne aplikacije? Odvisno od arhitekture! Deljen pomnilnik: en proces, več niti ali več procesov, izmenjava sporočil.

23 Kako programiramo vzporedne aplikacije? Kako izgledajo vzporedne aplikacije? Odvisno od arhitekture! Deljen pomnilnik: en proces, več niti ali več procesov, izmenjava sporočil. Porazdeljene arhitekture: več procesov, izmenjava sporočil.

24 Pohitritev aplikacije POZOR: Premisliti moramo, kaj bomo sploh povzporejali!

25 Pohitritev aplikacije POZOR: Premisliti moramo, kaj bomo sploh povzporejali! Če so vsak naslednji korak algoritma odvisen od prejšnjega, je aplikacija inherentno zaporedna (inherently sequential) in ni mogoče povzporejanje. Primer: iskanje po drevesu v globino.

26 Pohitritev aplikacije POZOR: Premisliti moramo, kaj bomo sploh povzporejali! Če so vsak naslednji korak algoritma odvisen od prejšnjega, je aplikacija inherentno zaporedna (inherently sequential) in ni mogoče povzporejanje. Primer: iskanje po drevesu v globino. Če so koraki popolnoma neodvisni med seboj, je aplikacija sramotno povzporedljiva (embarrassingly parallel). Primer: iskanje števila po neurejenem polju števil.

27 Pohitritev aplikacije POZOR: Premisliti moramo, kaj bomo sploh povzporejali! Če so vsak naslednji korak algoritma odvisen od prejšnjega, je aplikacija inherentno zaporedna (inherently sequential) in ni mogoče povzporejanje. Primer: iskanje po drevesu v globino. Če so koraki popolnoma neodvisni med seboj, je aplikacija sramotno povzporedljiva (embarrassingly parallel). Primer: iskanje števila po neurejenem polju števil. Amdahlov zakon: Največja možna pohitritev algoritma je S(P) = 1 s + 1 s, P kjer je s delež inherentno zaporedne kode in P število procesorjev.

28 MPI MPI ali Message Passing Interface je programski standard, ki vsebuje funkcionalnosti, potrebne za razvoj aplikacij za porazdeljen sisteme. Zasnovan je bil leta 1991.

29 MPI MPI ali Message Passing Interface je programski standard, ki vsebuje funkcionalnosti, potrebne za razvoj aplikacij za porazdeljen sisteme. Zasnovan je bil leta Podpira navidezno topologijo mreže (naslavljanje), sinhronizacijo procesorjev in učinkovito medsebojno komunikacijo.

30 MPI MPI ali Message Passing Interface je programski standard, ki vsebuje funkcionalnosti, potrebne za razvoj aplikacij za porazdeljen sisteme. Zasnovan je bil leta Podpira navidezno topologijo mreže (naslavljanje), sinhronizacijo procesorjev in učinkovito medsebojno komunikacijo. Je namenjen porazdeljenim arhitekturam, vendar deluje tudi na večjedrnih.

31 MPI MPI ali Message Passing Interface je programski standard, ki vsebuje funkcionalnosti, potrebne za razvoj aplikacij za porazdeljen sisteme. Zasnovan je bil leta Podpira navidezno topologijo mreže (naslavljanje), sinhronizacijo procesorjev in učinkovito medsebojno komunikacijo. Je namenjen porazdeljenim arhitekturam, vendar deluje tudi na večjedrnih. Je prirejen za številne programske jezike: poleg C, C++ in Fortran tudi za Python, Ocaml, Javo, Matlab, R itd.

32 MPI MPI ali Message Passing Interface je programski standard, ki vsebuje funkcionalnosti, potrebne za razvoj aplikacij za porazdeljen sisteme. Zasnovan je bil leta Podpira navidezno topologijo mreže (naslavljanje), sinhronizacijo procesorjev in učinkovito medsebojno komunikacijo. Je namenjen porazdeljenim arhitekturam, vendar deluje tudi na večjedrnih. Je prirejen za številne programske jezike: poleg C, C++ in Fortran tudi za Python, Ocaml, Javo, Matlab, R itd. Open MPI je ena izmed knjižnic, ki se podrejajo standardu MPI-2.

33 Uporaba MPI v C Začnimo s Hello world v programskem jeziku C: 1 # include <stdio.h> 2 3 int main ( int argc, char * argv []) { 4 printf (" Pozdravljen, svet!\n"); 5 6 return 0; 7 }

34 Uporaba MPI v C Dodamo inicializacijo MPI in izpis procesa: 1 # include <stdio.h> 2 # include <mpi.h> 3 4 int main ( int argc, char * argv []) { 5 int rank, size ; 6 7 MPI_Init (& argc, & argv ); 8 MPI_Comm_rank ( MPI_COMM_WORLD, & rank ); 9 MPI_Comm_size ( MPI_COMM_WORLD, & size ); printf ("Svet, jaz sem proces %d od %d!\n", rank, size ); MPI_ Finalize (); return 0; 16 }

35 Uporaba MPI v C Aplikacijo prevedemo z ukazom mpicc helloworld-mpi.c -o helloworld-mpi Aplikacijo zaženemo z ukazom mpirun -n <število procesov>./helloworld-mpi mpirun -n 5./helloworld-mpi Svet, jaz sem proces 1 od 5! Svet, jaz sem proces 0 od 5! Svet, jaz sem proces 4 od 5! Svet, jaz sem proces 3 od 5! Svet, jaz sem proces 2 od 5!

36 Uporaba MPI v C Aplikacijo prevedemo z ukazom mpicc helloworld-mpi.c -o helloworld-mpi Aplikacijo zaženemo z ukazom mpirun -n <število procesov>./helloworld-mpi mpirun -n 5./helloworld-mpi Svet, jaz sem proces 1 od 5! Svet, jaz sem proces 0 od 5! Svet, jaz sem proces 4 od 5! Svet, jaz sem proces 3 od 5! Svet, jaz sem proces 2 od 5! Opomba: Vrstni red izvajanja ni determinističen!

37 Komunikacija Komunikacija lahko poteka na dva načina:

38 Komunikacija Komunikacija lahko poteka na dva načina: prek mrežnega diska,

39 Komunikacija Komunikacija lahko poteka na dva načina: prek mrežnega diska, prek MPI.

40 Komunikacija Komunikacija lahko poteka na dva načina: prek mrežnega diska, prek MPI. Funkciji MPI za komunikacijo: int MPI_Send(const void *buf, int count, MPI_Datatype, int dest, int tag, MPI_Comm comm) int MPI_Recv(void *buf, int count, MPI_Datatype, int source, int tag, MPI_Comm comm, MPI_Status *status)

41 Komunikacija Komunikacija lahko poteka na dva načina: prek mrežnega diska, prek MPI. Funkciji MPI za komunikacijo: int MPI_Send(const void *buf, int count, MPI_Datatype, int dest, int tag, MPI_Comm comm) int MPI_Recv(void *buf, int count, MPI_Datatype, int source, int tag, MPI_Comm comm, MPI_Status *status) Opomba: Funkciji sta sinhroni in čakata, dokler se prenos ne konča.

42 Naloge Današnje naloge: Napišite program, ki s standardnega vhoda prebere 1 vrednosti polja in vzporedno sešteje njegove elemente. 2 vrednosti dveh matrik in jih vzporedno sešteje. 3 vrednosti dveh matrik in jih vzporedno zmnoži. Algoritme najprej preizkusite lokalno, nato pa na gruči Raspberry π.

43 Naloge Današnje naloge: Napišite program, ki s standardnega vhoda prebere 1 vrednosti polja in vzporedno sešteje njegove elemente. 2 vrednosti dveh matrik in jih vzporedno sešteje. 3 vrednosti dveh matrik in jih vzporedno zmnoži. Algoritme najprej preizkusite lokalno, nato pa na gruči Raspberry π. Za pridne: 1 Izmerite razliko v hitrosti izvajanja, če preberete matriko z mrežnega diska ali prek MPI. 2 Poglejte Cannonov algoritem za množenje matrik.

44 Uvod Vzporedne arhitekture Dodatno: Zagon MPI v gruc i Ustvarimo datoteko z naslovi rac unalnikov: pi@ pi@ pi@ pi@ pi@ pi@ Povzporejanje aplikacij MPI

45 Uvod Vzporedne arhitekture Povzporejanje aplikacij Dodatno: Zagon MPI v gruc i Ustvarimo datoteko z naslovi rac unalnikov: pi@ pi@ pi@ pi@ pi@ pi@ Aplikacijo zaz enemo z ukazom: mpirun --hostfile my hostfile helloworld-mpi MPI