En 1994 fue elegido convencional constituyente por la provincia de Santa Fe para la reforma constitucional nacional de 1994, siendo designado vicepresidente de bloque del partido político mayoritario de la Convención (Partido Justicialista). Integró la Comisión de Redacción, encargada de escribir el texto definitivo de la reforma.
En 1995 fue elegido intendente de la Ciudad de Santa Fe.
En 2003 fue designado procurador del Tesoro de la Nación, siendo el máximo responsable de la defensa jurídica del Estado argentino frente a las demandas tramitadas por inversores extranjeros ante tribunales arbitrales internacionales luego de la crisis económica de 2001.
En 2004, Néstor Kirchner lo designó ministro de Justicia tras la renuncia de Gustavo Béliz, hoy asesor de Alberto Fernández.
Tras asumir como ministro de la Corte, Rosatti admitió que se debió a que "no" le "cerraban los precios" de la obra pública que manejaba el entonces secretarios de Obras Públicas, el hoy detenido José López.
"Muchas veces uno tiene que plantarse y decir no frente a algo que le parece que no es lo que corresponde. En ese caso, dije no porque no me cerraban los precios".
"No se concretó esa licitación (para la construcción de cárceles), se cayó justamente porque faltaba una firma (la suya). Hay que valorizar el no de los funcionarios", explicó.