Né de parents arméniens, il découvre rapidement le théâtre grâce à eux. Son père, né en Géorgie, est le fils d'un cuisinier du tsar Nicolas II de Russie. Sa mère est issue d'une famille de commerçants arméniens de Turquie.

Ils se trouvaient en 1922 à Paris dans l'attente d'un visa pour les États-Unis. Le couple élève ses deux enfants entre son restaurant parisien et le milieu du théâtre.

Il commence sa carrière de chanteur et de comédien à 9 ans, et prend rapidement le nom de scène Aznavour.

En 1946, sa carrière décolle lorqu'il est remarqué par la chanteuse Édith Piaf. Il l'accompagne dans une tournée en France et aux États-Unis.

Ses chansons font presque toujours référence à l'amour.

Il a également joué dans soixante films. Chantant dans cinq langues, il est l'un des chanteurs français les plus connus dans le monde.

En 2002, il tient le rôle principal de son film le plus personnel : Ararat d'Atom Egoyan sur le génocide arménien.

Il travaille également sur le Jazznavour avec le pianiste, auteur-compositeur,arrangeur et membre du jury de La Nouvelle Star André Manoukian.

En 2003 un "sample" de sa chanson "Parce que tu crois" fut utilisé pour concocter le tube mondial "Breathe" de la chanteuse R&B américaine Blu Cantrell.