Ordinato prete nel 1957 è dottore in teologia ed è stato professore di dogmatica a Münster e a Tübingen; dal 1989 al 1999 è stato vescovo della diocesi di Rottenburg-Stuttgart; nel 2001 è stato elevato al cardinalato e fino al 2010 è stato presidente del Pontificio Consiglio per la promozione dell’unità dei cristiani e per i rapporti religiosi con l’ebraismo; è stato membro, tra l’altro, della Congregazione per la dottrina della fede e del Pontificio Consiglio per il dialogo interreligioso.
È presidente emerito del Pontificio Consiglio per la Promozione dell’Unità dei Cristiani.
I suoi testi teologici sono editi in Italia prevalentemente dall'Editrice Queriniana, ma anche da EDB e San Paolo Edizioni.
Il suo testo Misericordia. Concetto fondamentale del vangelo – Chiave della vita cristiana pubblicato da Queriniana nel 2013 è stato citato da Papa Francesco nel suo primo Angelus in piazza San Pietro, domenica 17 marzo 2013.