Da du Supercomputer angesprochen hast würd ich mir mal das Thema CUDA anschauen. Immer häufiger werden Cluster durch mit Grafikkarten gespickten Workstations ersetzt. Schau dir mal folgenden Artikel an:
Handelblatt - Supercomputing unter dem Schreibtisch Cuda Zone