Ese mismo día, se presentó a un concurso de canto y lo ganó, lo que fue un gran puntapié para su carrera artística: "También faltó la profesora de labores y con mis compañeras fuimos a LV12, donde había un concurso. Mis compañeras me empujaron para que cantara. Por temor a que se enterara mi papá me llamé Gladys Osorio. Canté 'Triste estoy', de Margarita Palacios. Cuando terminé, el dueño de la radio me dijo: 'El concurso concluyó y lo ganaste vos'. Y seguí cantando en la radio. Hasta que un día mi papá me descubre y me llama y me dice palabras que escucho ahora: '¿Le parece bonito eso de andar metiéndose en la radio? ¿Eso es lo que hace una señorita criada para ser decente? Gladys Osorio, venga, acérquese… ¿Tengo que felicitarla? Míreme a los ojos ¡Que me mire a los ojos le digo!’".
En 1963, junto a su esposo Oscar Matus y otros artistas, lanzó el Movimiento del Nuevo Cancionero. Los temas y las formas de este cambiaron al folklore argentino y fueron una gran influencia para el movimiento Nueva Canción Latinoamericana. Los compositores pioneros de esta, Atahualpa Yupanqui y Violeta Parra, fueron reversionados por Mercedes varias veces; les dedicó álbumes e incluía sus canciones en los recitales que realizaba.
En 1965, su vida dio un vuelco cuando Jorge Cafrune la invitó a cantar con él en el Festival Cosquín. Allí, la Negra sorprendió con su talento y los contratos no tardaron en llegar.
Al igual que sus padres, Mercedes apoyó a Juan Domingo Perón, aunque más tarde se afilió al Partido Comunista. Cuando llegó la Dictadura en 1976, la incluyeron en las famosas "listas negras de artistas" y sus canciones fueron prohibidas.
A pesar de que intentó seguir viviendo en el país, el régimen militar le hizo pasar un mal trago. Según comentó una de sus fanáticas en la página web de la cantante poco después de su fallecimiento, a La Negra se la llevaron detenida en pleno escenario en un show de 1978. Unos meses más tarde, se exilió a París y luego a Madrid.
Cuando la democracia volvió en 1983, la música argentina era una explosión de diversidad y festejo. Mercedes era parte de esos íconos contraculturales y se la vio muy unida al rock nacional en una serie de trece shows que se realizaron en el teatro Ópera, donde cantó con Charly García y León Gieco, entre otros artistas. Con García fueron muy amigos e interpretaron muchas canciones juntos. En 1997 lanzaron Alta Fidelidad, en el cual Mercedes cantó canciones de todas las épocas de García: Sui Generis, La Máquina de Hacer Pájaros y Serú Girán. Una joya del rock argentino.
El único hijo que tuvo la Negra fue Fabián Matus, quien falleció el 15 de marzo de 2019 a los 60 años. Matus acompañó a su madre a lo largo de su carrera y también estuvo muy presente en los últimos momentos de su vida.