Leonard Cohen wurde in eine sehr wohlhabende, einflussreiche jüdische Familie in Westmount, einem Vorort von Montreal, geboren. Sein Urgroßvater Lazarus Cohen stammte aus Vilkaviškis (Litauen), wo er Lehrer an der örtlichen Jeschiwa (religiöse Hochschule) war.
1860 wanderte er nach Kanada aus, war als Unternehmer erfolgreich und wurde Präsident der jüdischen Gemeinde Shaar HaShomayim, der größten in Montreal.
Sein Sohn Lyon Cohen, Leonards Großvater, der als Textilkaufmann und Versicherungsmakler erfolgreich war, folgte ihm im Amt des Synagogenvorstandes.
Dessen Sohn Nathan, ein Ingenieur, übernahm das große Textilkaufhaus. Nathan Cohen starb, als Leonard neun Jahre alt war. Seine musisch interessierte Mutter Marsha (Masha) war die Tochter des aus Russland eingewanderten Talmudgelehrten Rabbi Solomon Klonitsky-Kline.
Jugend
Im Alter von 13 Jahren erlernte Leonard das Gitarrenspiel (nach eigenen Angaben, um ein Mädchen zu beeindrucken), wenig später hatte er kleinere Auftritte in Cafés. Mit 17 Jahren spielte er als Student an der McGill University in einer dreiköpfigen Country-Folk-Band namens Buckskin Boys.