Zabel odkrył swoje zamiłowanie do kolarstwa, mając 10 lat. Być może miłość do tej dyscypliny ma powiązania rodzinne, ponieważ ojciec Erika był kolarzem odnoszącym sukcesy w byłym NRD. Erik usilnie starał się dorównać ojcu i jako amator potwierdził swoją klasę. W 1992 roku wystartował na Igrzyskach Olimpijskich w Barcelonie, gdzie był czwarty w wyścigu ze startu wspólnego. Rok później Erik zaczął uprawiać kolarstwo już zawodowo. Został zatrudniony na kontrakt przez niemiecką grupę Telekom, która potem zmieniła nazwę na T-Mobile. Trenował tam do 2005 roku. 

Właśnie w tym zespole Erik Zabel rozwinął się, stając się zawodnikiem z czołówki światowej. W 1994 roku wygrał w wyścigu Paryż-Tours. Rok później zdobywał znaczne wygrane etapów Tour de France, najtrudniejszego i najdłuższego wyścigu na świecie. W latach 1996-2001 sześciokrotnie otrzymywał zieloną koszulkę najlepszego sprintera Tour de France. W 2000 roku zwyciężył w Amstel Gold Race. W tym samym roku wziął udział w Igrzyskach Olimpijskich w Sydney, ale zajął dopiero 13. miejsce. Rok później został zwycięzcą wyścigu HEW-Cyclassics. 

W 2001 roku Erik Zabel został wybrany na najlepszego z niemieckich sportowców. Jest on typem genialnego taktyka w sprincie, nie boi się ryzyka. 

W maju 2007 roku w ramach konferencji prasowej przyznał się do stosowania EPO podczas Tour de France w 1996 roku przez okres jednego tygodnia. Tym samym stał się pierwszym niemieckim zawodowcem, który przyznał się do zażywania tego typu substancji.