Duivesteijn begon zijn politieke loopbaan als gemeenteraadslid in zijn geboortestad Den Haag. Hij werd daar in 1980 als wethouder verantwoordelijk voor ruimtelijke ordening en stadsvernieuwing.

In die functie was hij verantwoordelijk voor onder meer de bouw van het Haagse gemeentehuis aan het Spui, dat in de volksmond ook wel 'IJspaleis' wordt genoemd.

Van 1994 tot 2006 was Duivesteijn lid van de Tweede Kamer, waar hij zich ook bezighield met ruimtelijke ordening en volkshuisvesting. Hij verliet de Kamer in 2006 om wethouder te worden in Almere. Daarna was hij van 2013 tot 2015 lid van de senaat.

Duivesteijn ontsnapte in 1989 aan een aanslag. In de voet van een tafellamp op zijn kantoor zat een explosief verstopt. Door een technisch mankement ging de bom niet af. De Haagse crimineel Eef Hoos zat achter de mislukte aanslag en zat daarvoor een celstraf uit.