En este período fue nombrado en representación del Poder Judicial en la Comisión Nacional para el Control del Narcotráfico y Abusos de Drogas.
La Secretaria de Justicia lo nombró Fiscal para los Juzgados Nacionales de Primera Instancia en lo Criminal y Correccional Federal de la Capital en 1986, cargo que ocupó hasta 1990.
Durante su permanencia como Fiscal Federal participó en los casos de mayor resonancia pública de la época, entre ellos los referidos a los casos de niños secuestrados durante la última dictadura militar argentina.
Ejerció la docencia en la Cátedra de Derecho Penal de la Facultad de Derecho de la Universidad Nacional de Buenos Aires y en el Colegio Nacional Buenos Aires como profesor de Derecho Constitucional.
En 1991, Ibarra es electo Concejal de la Ciudad de Buenos Aires por la Alianza FREDEJUSO, desempeñándose, a partir de 1993, como Presidente del Bloque de Concejales del Frente Grande. Fue en este momento, en el que Ibarra, por entonces morocho, alejado de las actuales canas, proceso al por entonces Intendente de la Ciudad.
Ibarra fue electo Convencional Constituyente por la Capital Federal para reformar la Constitución Nacional Argentina en 1994. Dos años más tarde fue electo para una tarea similar pero en el ámbito de la Ciudad de Buenos Aires.
Elegido Legislador en 1997, sus pares lo nombran Vicepresidente de la Legislatura de la Ciudad Autónoma de Buenos Aires. Ese año también fue nombrado por la revista Time como "Joven sobresaliente hacia el siglo XXI".
En las elecciones del 7 de mayo de 2000 es elegido Jefe de Gobierno de la Ciudad de Buenos Aires con casi el 50 % de los votos. Ibarra gana ante el ex ministro de economía argentino, Domingo Caballo.
El segundo período de gobierno comienza el 14 de septiembre de 2003, Aníbal Ibarra, con el respaldo del flamante kirchnerismo que había asumido ese mismo año el 25 de mayo. Ibarra fue reelegido como jefe de Gobierno de la Ciudad de Buenos Aires, al imponerse en la segunda vuelta electoral con el 53 % de los votos.
Ibarra logró el respaldo del kirchnerismo, aunque cuando se desató la tragedia de República Cromañón, las voces del oficialismo nacional se fueron callando. Pocos días antes de que se lleve a cabo el juicio, la voz más contundente que defendió a Ibarra fue la del gobernador bonaerense Felipe Solá.
Ibarra pronuncia que cuenta con el respaldo de intelectuales, entre ellos, los que sumaron su firma a la solicitada en respaldo, fueron Canela, la actriz Beatriz Bonnet, y la jugadora de hockey Cecilia Rognoni.