Kombinasi memori lokal dan prosesor pada setiap node dari topologi jaringan interkoneksi. Setiap prosesor langsung dapat mengakses hanya sebagian dari total memori sistem. Message passing digunakan untuk berkomunikasi antara dua prosesor, dan tidak ada memori, global bersama. Karena itu, ketika suatu struktur data harus dibagi, isu program mengirim / menerima pesan ke proses yang memiliki struktur itu. Lihat juga komunikasi interprocess, melewati pesan.