Az egykori NDK területéről származó együttes tagjai egybehangzóan azt állítják, hogy korábban is ismerték egymást, amikor még különböző zenekarokban játszottak.
Az együttes fő alapítója, Richard Kruspe (gitár) az Orgasm Death Gimmick nevű zenekarban zenélt, míg Paul Landers (gitár) és Flake Lorenz (billentyű) egy jellegzetes punkrock együttesben, a Feeling B-ben játszott. A Feeling B-ben bekövetkezett személyi változások után Paul a Die Firma nevű együttes tagja lett, ahol Christoph Schneider (dob) volt a dobos. Oliver Riedel (basszusgitár) az Inchtabokatables nevű banda sorait gyarapította, míg Till Lindemann (ének) a First Arsch formációban dobolt.
Ezekkel a zenekarokkal azonban egyikük sem volt megelégedve, valami sokkal egyedülállóbb és különlegesebb hangzású zenét akartak játszani, így ötük, kezdetben Flake kivételével, együttessé verbuválódott és dalokat kezdtek írni. Egyedivé teszi a Rammstein zenéjét Paul és Richard szinkronizált, monoton, ám precíz és a véglegetig leegyszerűsített gitárjátéka, de ezt a hangzást kezdetben ők maguk is üresnek érezték. Egy billentyűs hangszerre volt szükség, ami ellensúlyozza a gitárok dallamtalanságát. Flakét nem volt könnyű beszervezni az együttesbe, de egyedi, technós hangzású szintetizátor játékával lett igazán ipari hangzású a Rammstein.
Ramstein: amerikai légierőbázis Németországban, ahol egy 1988. augusztus 28-án tartott légibemutatón három repülőgép összeütközött és egyikük a közönségre zuhant. A katasztrófa során 70-en vesztették életüket, és több százan szenvedtek súlyos (többnyire égési) sérüléseket.
A komor hangzású név, amelyet tovább sötétített a hozzá kapcsolódó tragédia, megtetszett az együttes tagjainak, akik névválasztási zavarral küszködtek. Hozzátettek még egy "m" betűt, így lettek Rammstein