Leonard Norman Cohen blev født den 21. september 1934 i Westmount, Quebec i Canada, hvor han voksede op i en ortodoks jødisk familie. Faren mistede han allerede som niårig – et tab der satte dybe spor i ham.
Cohen gik på Roslyn Elementary School og fortsatte på Herzliah High School. I 1948 startede han på gymnasiet Westmount High School, hvor han var involveret i alverdens aktiviteter: elevrådet, skolebladet og årbogen, dramaklubben og kunstklubben, ligesom han dyrkede en masse sport. Det var også i disse år, han lærte sig selv at spille guitar og dannede country-folk gruppen Buckskin Boys.
I 1951 begyndte Leonard Cohen på McGill Universitetet, hvor han fortsatte sit store engagement og bl.a. var præsident for McGills debatklub. I 1955 blev han bachelor, og året efter fik han udgivet sin første digtsamling ”Let Us Compare Mythologies”.
Efter et semester på jura på McGill gik Cohen et år på Columbia University of General Studies (1956-57) i New York. I de følgende år flyttede han retur til Montreal, hvor han havde diverse småjobs om dagen og skrev om natten. Det var i disse år, han begyndte at lide af depressioner og samtidig for alvor begyndte at eksperimentere med stoffer. I første omgang marihuana og lsd, men senere blev det til amfetamin, syre og hash. Cohen følte, at stofferne lindrede de depressive tanker og samtidig åbnede hans sind, så hans skrift blev mere eksperimenterende. Hans mest læste værk, ”Smukke tabere” fra 1966, skrev han således på amfetamin, mens han fastede i bagende sol på den græske ø Hydra. Her havde han købt et hus i 1960, og det var også her, han mødte sin norske muse Marianne Ihlen, som bl.a. gav inspiration til sangen ”So Long, Marianne”. Forholdet til Marianne holdt ikke, men de forblev venner resten af livet.
”Smukke tabere” blev langt fra modtaget med den hyldest, Cohen havde håbet. En del kritikere mente, at den var for vulgær, og flere boghandlere nægtede af samme grund at have den i deres sortiment. Den negative reception fik Cohen til at lægge sin karriere som romanforfatter på hylden og i stedet fokusere på en musikkarriere, og i 1967 udkom hans første album ”Songs of Leonard Cohen”.
Leonard Cohen har to børn, Adam (1972) og Lorca (1974), sammen med Suzanne Elrod, som han dannede par med i 1970’erne.