Baldini is de enige renner in de geschiedenis die een olympische titel, een grote ronde en de wereldtitel op de weg op zijn erelijst heeft staan. Hij won in 1956 de wegrit bij de Olympische Spelen van Melbourne.

Twee jaar later veroverde Baldini in Reims de wereldtitel op de weg. Hij hield de Fransman Louison Bobet ruim twee minuten achter zich. In hetzelfde jaar schreef hij de Giro d'Italia op zijn naam.

Baldini, die van 1957 tot en met 1964 profrenner was, werd ook twee keer Italiaans kampioen. Tevens was hij houder van het werelduurrecord.

Na zijn profcarrière werd Baldini ploegleider en voorzitter van de Italiaanse wielerbond. "Met Ercole Baldini verdwijnt een van de grootste kampioenen van ons wielrennen", zei voorzitter Cordiano Dagnoni van de Italiaanse wielerbond.