Nato James Horowitz, si è diplomato all’Accademia Militare di West Point e per dodici anni ha prestato servizio come pilota nell’Aviazione militare americana, che ha lasciato dopo la pubblicazione del suo primo romanzo, The Hunters (1956), pubblicato con lo pseudonimo che successivamente diverrà il suo nome legale. Da quel libro, basato sulla sua esperienza nella Guerra di Corea, sarebbe stato successivamente tratto un film diretto da Dick Powell.
Nel 1957 Salter decise di congedarsi dall'esercito per dedicarsi completamente alla scrittura. Il suo romanzo più noto è forse Un gioco e un passatempo (A Sport and a Passtime), del 1967.
Il corpus delle sue opere non è molto vasto: oltre ai due romanzi citati, conta altri tre romanzi, due raccolte di racconti (una delle quali, Dusk and Other Stories, gli è valso il Premio PEN/Faulkner nel 1989), un libro di memorie ed alcune sceneggiature. Ricordiamo Tutto quel che è la vita, Una perfetta felicità, Un gioco e un passatempo, Per la gloria, La solitudine del cielo e L'arte di narrare, tutti editi da Guanda. 
La sua scrittura è caratterizzata da un continuo processo di revisione del testo alla ricerca della parola adatta, "un processo mimetico in cui vado alla ricerca di me stesso", come scrive lui stesso.
John Irving ebbe a dire, a proposito dello stile di Salter: "... ogni frase è intima e discreta: l'effetto finale è di esattezza elegante, una cifra di scrittura che, tristemente, ora non usa più, difficilissima da imitare".
Ha vinto premi prestigiosi con le raccolte di racconti Dusk and Other Stories (PEN/Faulkner Award) e Last Night (Rea Award; PEN/Malamud Award).