Je odchovancem Zbrojovky Brno, odkud v roce 2001 přestoupil do Sparty Praha (od podzimu 2000 zde byl na hostování). V sezoně 2000/01, v níž Sparta získala titul, nastoupil na minutu proti Synotu Staré Město (dnešní Slovácko), toto utkání se hrálo 9. dubna2001. Jelikož poslední zápas sezony odehrála Sparta v Olomouci25. května2001, stal se Martin Klein nejmladším fotbalistou v historii nejvyšší soutěže (od 1925), který se podílel na mistrovském titulu, bylo mu 16 let a 327 dní. V prosinci 2001 odešel na hostování do Teplic. Na jaře 2002 ho Sparta stáhla z hostování a nastoupil v 17 letech a 241 dnech v Lize mistrů UEFA na hřišti Panathinaikosu, čímž se stal 5. nejmladším hráčem, který kdy startoval v této soutěži.[zdroj?] V lednu 2004 zamířil do Teplic na přestup jako součást odstupného za Petra Voříška. Od roku 2010 hrál za turecký Konyaspor. V lednu 2011 přestoupil do maďarského Ferencvárosi TC, kde působil až do roku 2013. Poté přestoupil (v říjnu 2013) do FK Teplice.[2]