Du musst sie richtig jumpern. Das heißt die kleinen Stecker, die du auf der einen Seite der HD findest auf den richtigen Platz stecken. Die eine machst du zu "Master", die andere zu "Slave". Steht meistens oben, wie du für Sl. bzw. für Ma. umstecken musst.
Ferner kann es natürlich sein, dass die HD zwar richtig gejumpt wurde, jedoch keine Partition angelegt ist. Die musst du dann noch selbst anlegen. Das machst du entweder mit FDISK oder Partition Magic oder sonst wie.
Sollte sie dann noch immer nicht funktionieren, hast du entweder etwas falsch gemacht oder sie ist kaputt.