Da I miei luoghi oscuri, sua autobiografia, sappiamo che la madre è stata assassinata nel 1958 a El Monte, dove si erano trasferiti all'indomani del divorzio dei genitori.
Il delitto rimase irrisolto. Dopo alcuni anni di convivenza con il padre, rimase orfano anche del padre a 17 anni e iniziò per lui un travagliato periodo dominato dalla droga, che ne minò anche le condizioni fisiche, e da piccoli furti. Venne arrestato e passò dei periodi nella prigione della contea. Iniziò poi la sua attività di scrittore e i suoi libri divennero molto rapidamente dei best-seller internazionali.
Oggi è universalmente considerato uno dei più grandi autori di crime degli ultimi trent'anni, e una delle voci più originali e potenti della letteratura americana contemporanea. Tra le sue opere maggiori, la quadrilogia di Los Angeles Dalia nera, Il grande nulla, L.A. Confidential e White Jazz;  la trilogia "Underworld Usa" (American Tabloid, Sei pezzi da mille, Il sangue è randagio), il già citato memoir I miei luoghi oscuri; Ricatto, Caccia alle donne, La strada dell'innocenza, Perchè la notte, Tijuana, mon amour, L'angelo del silenzio, Corpi da reato, Praga detective, Clandestino, Il dubbio letale, Jungletown Jihad, Scasso con stupro, Notturni hollywoodiani, Destination: Morgue e Perfidia e Panico.
Gli editori di riferimento di James Ellroy in Italia sono Mondadori, Bompiani ed Einaudi.
Nel 2024 esce per Einaudi, Gli incantatori.