Nasce a Newark, New Jersey, da Louis e Naomi Ginsberg. Il padre era docente di letteratura e poeta egli stesso, la madre un membro attivo del partito comunista. Allen cresce pertanto in un ambiente progressista e anti-conservatore e rimane vicino tutta la vita alle cause della classe operaia.
Ottenuta una borsa di studio, negli anni ’40 si iscrive alla Columbia University dove entra in contatto con William Burroughs, Neal Cassady e Jack Kerouac, tutti nomi allora sconosciuti che sarebbero diventati in seguito figure chiave della cosiddetta Beat Generation.
Nel 1954 si trasferisce a San Francisco dove è introdotto da William Carlos Williams, suo mentore, nell’ambiente poetico della città e dove conosce Peter Orlovsky (anch’egli poeta) che diventa suo compagno per tutta la vita.
Nel 1955, con l’aiuto di Kenneth Rexroth (poeta e promotore del “Rinascimento Poetico” di San Francisco) è organizzato l’evento che è passato alla storia come “The 6 Gallery Reading”: il 7 Ottobre, alla 6 Gallery di San Francisco, Allen Ginsberg legge in pubblico il suo poema intitolato Howl, che attira l’attenzione di tutto il mondo letterario nazionale e internazionale su di sé e sui poeti a lui vicini. Tale performance è la prima nel suo genere ed è indicata come uno degli eventi più importanti del movimento della Beat Generation, di cui Howl diviene e resta tuttora uno dei manifesti più rappresentativi.   
Nel 1956 il poema è pubblicato in Howl and Other Poems dalla casa editrice City Lights, fondata appena l’anno prima dal poeta Lawrence Ferlinghetti che, a causa di questa pubblicazione, è messo sotto processo per oscenità. Il procedimento si risolve a favore di Ferlinghetti con un’inaspettata sentenza sulla libertà di espressione e di stampa come elementi fondanti della democrazia americana, segnando così un’importantissima rottura nella perbenista e conservatrice società statunitense degli anni ’50.   
Negli anni ’60 e ’70 Ginsberg compie insieme a Orlovsky numerosi viaggi in India e in Oriente e si interessa alle idee del Buddismo e del Krishnaismo come reazione al materialismo dell’Occidente.
Pubblica inoltre diversi libri di poesia tra cui Kaddish and Other Poems (1961), Planet News (1968) e The Fall of America: Poems of These States (1973) che vince il National Book Award.
Nel 1993 viene insignito del titolo di Chevalier des Arts et des Lettres dal ministro della Cultura francese e in seguito fonda e dirige la Jack Kerouac School of Disembodied Poetics al Naropa Institute in Colorado.
Nei suoi ultimi anni è stato docente al Brooklyn College.
Allen Ginsberg si spegne il 5 Aprile del 1997 a New York per un’epatite insorta per un cancro al fegato.