1975-ben szülővárosa csapatában, a TB Jahn Lambsheim együttesében kezdte a labdarúgást. 1982 és 1985 között már a Waldhof Mannheim korosztályos csapatában szerepelt. 1983-ban mutatkozott be az első csapatban. 1987 és 1989 között az 1. FC Köln, 1989 és 1991 között a Bayern München játékosa volt. 1991 és 1995 között Olaszországban játszott a Juventus együttesében. 1995-ben hazatért és 2002-es visszavonulásig a Borussia Dortmund erőssége volt. Kivételesen hosszú pályafutása alatt pontosan 500 élvonalbeli mérkőzést játszott a német és az olasz bajnokságban.[1]
1983-84-ben a nyugatnémet U18-as válogatottban szerepelt 8 alkalommal és egy gólt szerzett. 1985 és 1987 között az U21-es csapatban 11 mérkőzésen lépett pályára. 1986-ban mutatkozott be a nyugatnémet válogatottban, ahol 1998-ig 105 alkalommal szerepelt és két gólt szerzett. Tagja volt az 1990-es világ- és az 1996-os Európa-bajnok csapatnak.[2]
Visszavonulása után 2002-03-ban a német U21-es csapat szakmai munkáját irányította. 2003. március 31. és 2004 június 29. között a Bayer Leverkusen sportigazgatójaként tevékenykedett. 2005. december 17-től az MSV Duisburg vezetőedzője volt az idény végéig. 2008-ban hároméves edzői szerződést kötött a harmadik ligás VfR Aalen csapatával, de 2008. november 16-án szívproblémái miatt lemondott erről a posztról és a csapat sportvezetője lett 2009. május 5-ig, amikor felmondtak neki. 2012-ben Bonner SC U19-es csapatát edzette. 2013 októberében a SpVgg EGC Wirges edzője lett, ahonnan 2015 márciusában távozott.[3]
A 2015–2016-os szezonban az Oberligában szereplő SC Haunstein edzője volt. Csak egy szezont töltött itt, a 2016–2017-es szezonban a VfL Alfter edzője lett.[4] 2018 nyarán az FC Viktoria Köln U19-es utánpótláscsapatának vezetőedzője lett.[5] 2020 áprilisában csapata bejelentette, hogy Kohler szerződését nem hosszabbítják meg.[6]
2024 júniusában a Bonner SC bejelentette Kohler visszatérését a klub U17-es csapatához.[7]
