Nació el 22 de mayo de 1924 en París, hijo de padres armenios.

Hizo su debut en el mundo de la canción junto a su hermana Aida, y casi al mismo tiempo en el teatro, donde trabajó desde los 11 años.

En el año 1941 conoce a Pierre Roche y juntos componen e interpretan a dúo. "J´ai bu", cantada por Georges Ulmer, ganó en 1947 el Grand Prix. Actuaban en la primera parte de los conciertos de Edith Piaf, hasta que Roche se fue a Quebec.
Aznavour escribió para Piaf ("Jézébel"), Juliette Gréco ("Je hais les dimanches"), Eddie Constantine ("Et bâiller, et dormir"), posteriomente escribe ("Je m´voyais déjà").

El éxito le llega en 1953 con "Sur ma vie". Después le siguieron "Viens pleurer au creux de mon épaule", "Tu t´laisses aller", "La mamma", "Comme ils disent".

En el cine se reveló como un actor de talento en Un taxi pour Tobrouk (1961) de Denys de La Patellière y en El tambor de hojalata (1979) de Volker Schlöndorff.

Entre sus temas de mayores popularidad en América Latina fueron "La Bohemia", Quién", "Yo te daré calor", "Buen aniversario", "Con", "La mama" , "Y por tanto". Este último siendo un éxito rotundo.