Völler 1982-ben igazolt a német élvonalban szereplő SV Werder Bremen csapatához a másodosztályban szereplő TSV 1860 München csapatától. Ebben az évben mutatkozott be először a német válogatottban is. A következő szezonja nagyon jól sikerült és ő lett a Bundesliga gólkirálya.Több külföldi klub is elkezdett érdeklődni a csatár után, aki 1987-ben az AS Roma csapatába igazolt. Romában megkapta a "repülő német" becenevet, mivel főként rá épült a csapat. 1991-ben megnyerte az Olasz kupát és több idényben is ő volt a csapat házi gólkirálya. 1992-ben az AS Roma úgy döntött, hogy eladja a csatárt a francia Olympique de Marseille-nek, ahol a francia sztárcsatárt Jean-Pierre Papin-t kellett pótolnia. Az első szezonja nagyon jól sikerült, csapatával megnyerte a Bajnokok Ligáját 1993-ban. Völler kezdőként lépett pályára a döntőbe és a 78. percig a pályán volt.
A Marseille-től később elvették az 1993-as bajnoki címet, és az 1994-95-ös idényre a másodosztályba sorolták vissza a csapatot. Völler elhagyta a klubot a visszasorolás miatt és visszatért Németországba, ahol a Bayer 04 Leverkusen játékosa lett. 1996-os visszavonulásáig itt játszott, majd később itt kezdte el edzői karrierjét.
Völler 90-szer lépett pályára a német labdarúgó válogatottban, amelyeken 47-szer szerzett gólt, ebből nyolcat világbajnokságokon. Tagja volt az 1990-ben világbajnokságot nyert német válogatottnak. Ezen a világbajnokságon háromszor volt eredményes, egyszer egy 4-1-re Jugoszlávia ellen megnyert mérkőzésen és az Egyesült Arab Emirátusok elleni 5-1-es győzelemmel végződő meccsen, ahol két gólt szerzett. A kieséses szakaszban Hollandia elleni mérkőzésen Frank Rijkaard leköpte őt, majd nem sokkal utána mindkettőjüket kiállították. Völler a következő mérkőzést kihagyta Csehszlovákia ellen , de az elődöntőben és a döntőben is pályára lépett, ahol 1-0-ra nyertek és megszerezték a világbajnoki címet.
Völler részt vett az 1984-es Európa bajnokságon, ahol a Románia elleni csoportmeccsen lőtt két góljával 2-1-re nyertek. Spanyolországnak a 90. percben sikerült győztes gólt szereznie a németek ellen, így az NSZK kiesett a csoportból.
Az 1986-os vb-n gólt szerzett a skótok ellen 2-1-re megnyert csoportmeccsen. Az elődöntőben a 89. percben bebiztosította a döntőbe jutást a franciák ellen. A döntőben Argentínával találkoztak és Völler a 80. percben kiegyenlített, végül mégis az argentinok nyerték meg a kupát. Völler lett a harmadik aki csereként gólt szerzett egy vb döntőn.
1988-ban az NSZK adott otthont az Európa-bajnokságnak. Völler két gólt szerzett Spanyolország ellen. Az NSZK az elődöntőben esett ki a későbbi győztes Hollandia ellen.
1992-ben az Eb első meccsén sérülést szenvedett a Szovjetunió utódaként létrehozott FÁK ellen. Így véget ért számára a torna.
Az 1994-es vb-n Belgium ellen 3-2-re megnyert mérkőzésen kétszer volt eredményes.
A 2000-es Eb-n a német csapatot irányító Erich Ribbecket elküldték a válogatott rossz szereplése miatt. Völlert nevezték ki a helyére, annak ellenére hogy nem volt edzői engedélye. Eleinte csak egy évre szólt a szerződése, de az utódja Christoph Daum kábítószer botrányba keveredett, ő pedig a válogatott élén maradt. Annak ellenére hogy hazai pályán kikaptak Angliától 5-1-re, a 2002-es világbajnokságon ő irányította a csapatot. A világbajnokságon a döntőben csak Brazília tudta legyőzni őket. 2004-ben az Európa bajnokságon a német válogatott már a csoportkörben kiesett és Völler lemondott a kapitányi posztról.
Nem sokkal később az AS Romához tért vissza, ezúttal menedzserként Cesare Prandelli lemondása után. Nem igazán jöttek a jó eredmények és sok nézeteltérése volt közte és a játékosok közt, különösen Antonio Cassanóval. Csak egyéves szerződést kötött a Romával, ez távozása után Visszatért Cesare Prandelli.
Visszatért a Bayer 04 Leverkusenhez, ahol 2005. szeptember 16-án kinevezték Klaus Augenthaler helyett.
Völler októberig töltötte be a menedzseri posztot, majd kinevezték a helyére Michael Skibbe-t. Völler maradt a klubnál és kinevezték a klub új sportigazgatójává, amelyet a mai napig elfoglal.
Völler a mai napig nagyon népszerű Németországban, a nemzeti válogatott az ő edzősége alatt kezdett újjászerveződni a nagy generáció visszavonulása után.
Ez a szócikk részben vagy egészben a Rudi Völler című angol Wikipédia-szócikk fordításán alapul. Az eredeti cikk szerkesztőit annak laptörténete sorolja fel. Ez a jelzés csupán a megfogalmazás eredetét és a szerzői jogokat jelzi, nem szolgál a cikkben szereplő információk forrásmegjelöléseként.
