Principes de programmation parallèle

Principe : approche « classique » → accès séquentiel. Vs parallèle → en même temps.

Les différentes approches de la programmation HPC

Taxonomie de Flynn

multi-threads (mémoire partagée)
multi-core
SSE
GPU
cluster

Problématiques

Accès concurrent
Transfert des données
coalescence des données
mémoire cache
surcoût (overhead) pour la création des threads/kernels
context switching
latence mémoire