Il est né le 11 octobre 1951 à Paris, dans le 19e arrondissement, 3e d'une famille de quatre enfants. Sa mère, Ruth Ambrunn, née à Munich (Allemagne), et son père, Alter Mojze Goldman, né à Lublin (Pologne), furent héros de la résistance. Il a pour frère cadet l'auteur-compositeur Robert Goldman et pour demi-frère le militant d'extrême-gauche assassiné Pierre Goldman. Bachelier en 1969, il poursuit ses études et intègre l'Edhec, dont il sort en 1973.

Il a d'abord chanté dans le groupe Red Mountain Gospellers en chorale puis avec The Phalanster et enfin avec Taï Phong (Grand Vent en vietnamien) avant de débuter sa carrière solo, qu'il a mise entre parenthèses quelques années pour fonder un trio avec le gallois Michael Jones et l'américaine Carole Fredericks.

Jean-Jacques Goldman commence sa carrière au sein du groupe Taï Phong en 1975. Le succès est déjà au rendez-vous avec la chanson Sister Jane, tirée du premier album du groupe. En 1976, c’est le réel commencement.

Jean-Jacques est persuadé que l’on peut chanter en français sans faire de la chanson à texte (ce à quoi personne ne se risque trop à l’époque) et il sort un premier 45T en solo qui contient deux titres: C’est pas grave papa et Tu m'as dit. Il sort un deuxième 45T en 1977.

En 1978, Jean-Jacques ne souhaite pas participer à une tournée de Taï Phong, c’est un nouveau qui débarque pour le remplacer : Michael Jones. Il sort en revanche un troisième 45T en solo avec Laëtitia.

En 1979, Taï Phong se sépare, « Le groupe s’est arrêté parce que les groupes, ça meurt » déclare Jean-Jacques.

Il suffira d’un signe, et c’est ce signe qui sort sur un album, qui aurait pu s’appeler Démodé mais qui restera sans nom (pas assez commercial selon la maison de disque), en 1981. C’est avec ce titre que Jean-Jacques Goldman commence à connaître le succès.

Après cette réussite, sa maison de disque, Epic, le presse de sortir un autre album, toujours sans nom avec des titres comme Quand la musique est bonne, Comme toi, Au bout de mes rêves ou encore Je ne vous parlerai pas d’elle.

Après les tubes de l’album, rebaptisé officieusement par certains Quand la musique est bonne, avec ses 200 000 exemplaires vendus (un autre titre officieux existe : Minoritaire), Jean-Jacques continue et donne enfin un titre officiel à son troisième disque : Positif.

Pour sa tournée, l’auteur/compositeur/interprète fait appel à un musicien qu’il connaît : Michael Jones. C’est à partir de ce moment que la complicité entre les deux artistes commence réellement.

En 1985 Je marche seul est la chanson qui annonce un nouvel album : Non homologué. Cet album contient un duo français/anglais avec Michael Jones : Je te donne. Duo qui reste huit semaines au sommet du top 50.
En 1990 débute une nouvelle phase dans la carrière de l'artiste. Il s'entoure en effet de ses amis Carole Fredericks (chanteuse qui avait déjà accompagné de nombreux artistes en tant que choriste) et Michael Jones. Ils signent un premier album à leurs noms : Fredericks Goldman Jones.

En 1993, c’est Rouge où Jean Jacques profite de la chute du rideau de fer pour aller enregistrer son album à Moscou même.

Les tournées de cette époque avec Carole Fredericks et Michael Jones alternent des concerts avec plusieurs milliers de personnes au Zénith et seulement une petite centaine dans des salles de province. Le live qui suivra cette deuxième tournée du groupe donnera naissance à l'album "Du new morning au Zénith" qui retrace les ambiances bien différentes des spectacles.

En 1997, Goldman revient à des mélodies brutes, acoustiques et blues... L'album "En passant" connaît un succès retentissant avec des chansons comme "On ira", "Nos mains", "Bonne idée". Avec cet album, Goldman confirme qu'il est bien capable de faire pleurer les guitares électriques comme chanter les guitares acoustiques et qu'il reste l'un des meilleurs paroliers de l'histoire de la chanson française
En 2001, Jean Jacques se veut musicien pour les pieds avec des succès comme Ensemble et Tournent les violons. L'album très simple, très acoustique qu'était 'En passant' fait place à un CD très élaboré musicalement, très arrangé où chaque chanson est une nouvelle danse. Zouk, Gigue, Disco côtoient les traditionnelles ballades "goldmaniennes".

En 2002, il rappelle sa troupe de musiciens pour ce qui est sa dernière tournée en date.

Goldman a depuis longtemps mis son talent au profit d'œuvres humanitaires. On note notamment la participation au collectif pour les enfants d'Ethiopie (sous la direction de Daniel Balavoine et Renaud), les Restos du Cœur (pour lequel il compose la célèbre chanson), Sidaction, Solidarité Asie, etc. Il est encore aujourd'hui l'une des personnes importantes des actions annuelles des Restos du Cœur.

Le quotidien Belge "La dernière heure" a prétendu, en septembre, que Jean-Jacques Goldman s'apprêtait à arrêter sa carrière et que l'annonce serait faite dans un livre signé de Fred Hidalgo (Directeur du magazine Chorus). L'auteur a démenti la sortie d'un livre et Jean-Jacques Goldman, à travers un démenti publié auprès de l'AFP, a déclaré "Je commence à lire des articles dans la presse prétendant que j'arrêterais la chanson, c'est faux". En réalité, il s'agirait plutôt d'une pause, c'est-à-dire que Jean-Jacques Goldman ne sortira pas d'album tous les 4 ou 5 ans comme il avait l'habitude de le faire. Mais il se définit désormais, notamment lors du débat qui a accompagné le vote de la loi DADVSI comme un "ancien chanteur".

Albums studios

Demodé (1981) (titre officieux)
Minoritaire (1982) (titre officieux)
Positif (1984)
Non Homologué (1985)
Entre Gris Clair Et Gris Foncé (1987)
Fredericks Goldman Jones (1990)
Rouge (avec Carole Fredericks et Michael Jones) (1993)
En Passant (1997)
Chansons Pour Les Pieds (2001)