Gieco empezó a trabajar a la temprana edad de ocho años. Se compró una guitarra con su propio dinero, y pronto comenzó a tocarla en los actos escolares, y con el grupo folclórico Los Nocheros. También tocó con la banda de rock Los Mocosos, que pronto adquirió cierta popularidad en los pueblos vecinos. Interpretaron canciones de los Beatles, los Rolling Stones y del Spencer Davis Group, cuando ganaron un concurso para tocar en el Canal 5 de Rosario en 1965.

A los dieciocho años fue a probar suerte a la Ciudad de Buenos Aires. Allí conoció a Litto Nebbia, y a Gustavo Santaolalla, quien le dio la oportunidad de tocar al comienzo de los espectáculos de artistas más reconocidos.

Consiguió tocar con diferentes personas, entre las cuales estaba David Lebón, y en el Buenos Aires Rock Festival en 1971, 1972, y 1973. Ese mismo año fue lanzado su primer álbum, grabado en forma independiente junto a Gustavo Santaolalla durante los dos años anteriores. Su canción principal fue En el país de la libertad, y el disco logró bastante reconocimiento.

Un año después, su segundo LP La Banda de los Caballos Cansados, mantuvo el mismo estilo de tratar de entender el destino de los pueblos, el por qué de las injusticias.

León realizó una serie de conciertos con un grupo estable de músicos, como así también otras presentaciones con Porsuigieco, el grupo formado con Raúl Porchetto, Charly García, Nito Mestre y María Rosa Yorio. Tuvieron un relativo éxito y lanzaron un disco homónimo en 1976.

Mientras tanto, él continuaba tocando con su otro grupo, y tenía un contrato para dos shows, pero la separación de la banda lo forzó a hacer esos shows por su cuenta. Al público pareció gustarle su show como solista, y Gieco decidió continuar su carrera de esa manera. En 1976 lanzó El Fantasma de Canterville. El disco sufrió una dura censura por parte del Proceso de Reorganización Nacional; Gieco tuvo que cambiar la letra de seis canciones y eliminar otras tres por completo. Sin embargo, el disco fue un éxito y relizó conciertos no solo en Argentina, sino también en otros países de Sudamérica. Dos años más tarde editó IV LP, con una de sus canciones más famosas: Sólo le pido a Dios. Debido a la situación política de Argentina, se mudó a Los Ángeles por un año.

En 1981 dio un concierto en Buenos Aires acompañado solamente por su guitarra, su armónica, y su charango. Luego grabó Pensar en nada. Ese mismo año comenzó una serie de conciertos independientes a lo largo de 110,000 kilómetros, por 3 años, tocando para un total de 420,000 personas. Recopiló material de los diferentes lugares que visitó en Argentina durante esa gira y grabó en Buenos Aires junto a varios músicos autóctonos el primer volúmen de De Ushuaia a La Quiaca en 1985. El siguiente De Ushuaia a La Quiaca 2 y De Ushuaia a La Quiaca 3 fueron grabados en un estudio móvil en diferentes ciudades del país.

En 1985 fue a Moscú para el 12do. Festival Mundial de la Juventud y los Estudiantes junto a Juan Carlos Baglietto y Litto Nebbia en representación de Argentina. También dio conciertos en Alemania con su amiga Mercedes Sosa, y al regresar a Argentina dio otra gira por el país en 1986. En 1987 volvió a Alemania para dar siete recitales, incluyendo el Festival des politischen liedes (Festival de la canción política) en Berlin.

Cuando volvió, dio dos recitales gratuitos; uno ante cuarenta mil espectadores en el Monumento Nacional a la Bandera en Rosario, y otro para treinta y cinco mil en Buenos Aires. En el estadio de Boca Juniors dio un recital junto a Pablo Milanés y Chico Buarque, y músicos invitados como Mercedes Sosa, Fito Páez, Nito Mestre, Juan carlos Baglietto y Sixto Palavecino. A fines de ese año, realizó una gira mundial que incluyó países tales como México, Perú, Brasil, Suecia, Alemania y Dinamarca.

Nuevamente, en 1988, tocó en Alemania y Austria. De regreso en Argentina participó del último concierto del Amnesty International tour en el estadio Monumental de River Plate, con Charly García, Peter Gabriel, Bruce Springsteen, Sting, entre otros.

Luego de ocho años de gira, Semillas del corazón de 1989 marcó su regreso a los estudios. Ese mismo año, tocó en el Teatro Ópera en Buenos Aires con la leyenda estadounidense de la música folk Pete Seeger. El material fue editado en el disco de 1990 Concierto en vivo. El año siguiente, Seeger lo invitó a unirse a una gira por Washington, Boston y Nueva York. Allí tocó con David Byrne, a quien ya había conocido en Buenos Aires un tiempo antes.

En 1992 tocó con Milton Nascimento, Mercedes Sosa, Os Paralamas do Sucesso, Gilberto Gil y Rubén Rada en la inauguración del Latin American Parliament en la Ciudad de São Paulo. También lanzó Mensajes del Alma.

En 1994 editó Desenchufado, un nombre irónico que hacía referencia a los populares recitales de MTV unplugged, con un compilado de canciones viejas. Si bien el disco editado en 1997, Orozco tenía algunas canciones que no seguían con el pasado folcorista de Gieco, el resto del disco tenía su estilo, y muchos músicos invitados participaron de la grabación, entre los cuales estuvieron Mercedes Sosa, Ricardo Mollo (Divididos), Santaolalla y Ricardo Iorio.

También en 1997, participó en el recital que conmemoró los 20 años de las Madres de Plaza de Mayo, junto a bandas como Divididos, Las Pelotas, La Renga, Los Piojos, y Attaque 77.