1996-ban Aranylabdát kapott, amiért az Európa-bajnokságot nyert német válogatottnak a vezéregyénisége volt. Sammer 74 válogatottsággal vonult vissza, melyek közül 23 alkalommal az NDK-ban játszott, a többi 51 alkalommal az újraegyesített Németország színeiben lépett pályára. Az NDK legutolsó gólja is Sammer nevéhez fűződik.
Sammer 1987 és 1990 között szülővárosának klubjában, a Dynamo Dresdenben játszott, ahol az édesapja, Klaus is játékos és edző volt. Egyike azoknak a legismertebb keletnémet játékosoknak, akik Németország újraegyesítése után egy nyugati klubhoz igazoltak, amikor 1990-ben a VfB Stuttgarthoz szerződött (a legelső Andreas Thom volt, aki a BFC Dynamoból a Bayer Leverkusenbe igazolt). Ezt követően az Internazionalebe (1992–1993), majd a Borussia Dortmundba (1993–1998) igazolt át. A Dynamo Dresdennel két keletnémet bajnoki címet nyert (1989, 1990), emellett háromszoros német bajnok lett (1992-ben a VfB Stuttgarttal, 1995-ben és 1996 a Borussia Dortmunddal). A Dortmundban töltött időszaka alatt 1997-ben megnyerte az UEFA-bajnokok ligáját.
Egy súlyos térdsérülést követően 1998-ban visszavonult, és 2000-ben a Borussia Dortmund vezetőedzője lett, melyet 2002-ben a német bajnoki címig vezetett. Csapatával ugyanebben az évben bejutott az UEFA-kupa döntőjébe is, ám ott a Feyenoord ellen 3–2-es vereséget szenvedtek. Sammer a 2004–2005-ös szezonban a VfB Stuttgart edzője volt, de mindössze egy idényt követően távozott a klubtól.
2006. április 1-jén kinevezték a Német labdarúgó-szövetség (DFB) technikai vezetőjévé egy ötéves szerződés keretein belül.
