Cantor, guitarrista, poeta e escritor, viajou por diversos países do Cone Sul, em busca de testemunhos das antigas culturas latino-americanas e compôs canções que se popularizaram a partir da Argentina, através de vários intérpretes.
Seu nome artístico também supõe uma homenagem a Atahualpa, o último chefe inca assassinado pelos espanhóis, e o vocábulo Yupanqui significa "o que vem de longe".
Em 1949 exilou-se em Paris, onde foi convidado por Edith Piaf para realizar apresentações no ano seguinte. Imediatamente assinou contrato com a Chant du Monde, gravadora que lançou seu primeiro disco na Europa, Minero soy, que recebeu o prêmio de Melhor Disco, da Academia Charles Cros, dentre trezentos e cinquenta outros participantes, de todos os continentes, do Concurso Internacional de Folclore. Posteriormente, viajou por vários países europeus.
Retornando a Buenos Aires em 1952, rompeu relações com o Partido Comunista, para conseguir contratos para apresentações no rádio. Percorreu todo o país e fixou-se depois em Cerro Colorado, na província de Córdoba.
O reconhecimento de seu trabalho etnográfico ocorreu na década de sessenta, através de artistas como Mercedes Sosa, tornando-se popular entre os músicos mais jovens, que a ele se referiam como Don Ata.
Alternando entre Buenos Aires e Cerro Colorado, durante 1963 e 1964 realizou uma turnê pela Colômbia, Japão, Marrocos, Egito, Israel e Itália. Em 1967 viajou pela Espanha e após se estabeleceu em Paris, voltando periodicamente à Argentina até 1976, quando a ditadura militar de Jorge Videla chegou ao poder.
Em 1986 foi condecorado, na França, como Cavalheiro da Ordem das Artes e das Letras. Em 1987, voltou à Argentina para receber uma homenagem da Universidade de Tucumán.
Em Paris, no ano de 1992, preparando-se para uma apresentação em Nîmes, sentiu-se mal e faleceu em 23 de maio. Por seu expresso desejo, seus restos foram repatriados e descansam em Cerro Colorado.
Suas composições foram imortalizadas na voz de Mercedes Sosa e, na década de setenta, através do grupo Raíces de América (formado por músicos argentinos, chilenos e brasileiros), do mineiro Dércio Marques, da gaúcha Dilu Mello e, especialmente, na voz de Elis Regina, no disco Falso Brilhante, de 1976.