O prof. Victor Eijkhout do TACC (olhem este site se você quiserem entender o que é HPC a sério) tem um material excelente, não necessariamente diretamente aplicável ao nosso curso, na página de Introdução à programação científica de alto desempenho.
Em particular, peguem o livro de progamação científica e o livro de programação MPI/OpenMP.
Há várias maneiras diferentes de instalar e manter uma versão atualizada do Python e dos pacotes necessários no seu sistema.
Vamos usar o Anaconda que é extremamente conveniente para programação científica e é multi-plataforma, podemos fazer basicamente as mesmas coisas do mesmo jeito (depois de instalado) no Linux e no Windows.
Mesmo aqui há duas grandes opções. Você pode instalar o Anaconda completo, que instala todos os pacotes de Python já escritos no Universo conhecido para qualquer problema existente o que será criado. Isto ofende o meu senso estético, e vamos usar a segunda opção, que é instalar o miniconda. O miniconda instala apenas o mínimo necessário para instalar outros pacotes e criar ambientes. Descarregue e instale a versão mais recente para o Python 3, que corresponde ao seu sistema operacional e à sua arquitetura de processador (64 bits muito provavelmente).
Instale apenas para o seu usuário e não para todos, quando for perguntado.
Depois de instalado o Anaconda devemos fazer uma configuração mínima e instalar alguns pacotes
O material das aulas está aqui.