Nasce in un villaggio vicino ad Aleppo, quinto di tredici figli. Dopo gli studi in legge, ha fondato la rivista di letteratura «Aleph», proibita dopo pochi mesi dalla censura siriana. Il suo primo romanzo, The Guardian of Deception (1993), ha ricevuto gli elogi della critica internazionale. Il suo terzo romanzo Elogio dell'odio ha conquistato nel 2006 l'attenzione della stampa mondiale: tradotto in 8 lingue, è stato candidato al Premio Internazionale per la Narrativa in arabo, e al Premio per la Narrativa straniera indipendente. Il quarto romanzo di Khalifa, No Knives in the City's Kitchens (2013), gli è valso la Medaglia Naguib Mahfouz per la Letteratura, ed è stato successivamente tradotto in francese, olandese e inglese. Death Is Hard Labor, è stato pubblicato nel 2015. Khalifa ha scritto inoltre diversi sceneggiati televisivi, compresi Memoirs of Al-Jalali e il premiato Relative Calm.
Aveva deciso di restare in Siria, dove è morto il 30 settembre 2023. Negli ultimi anni si era trasferito a Latakia, sulla costa: scriveva e dipingeva. "Rifiutava l’idea che l’odio vincerà: era convinto che, se ci sarà giustizia, i siriani metteranno da parte la vendetta e ricostruiranno, per i loro figli" come ha scritto Viviana Mazza sul Corriere della Sera per ricordarlo.