Gnilka studierte 1947–1953 Theologie, Philosophie und orientalische Sprachen an den Universitäten Eichstätt und Würzburg sowie an der La Sapienza in Rom. 1953–1956 war er Kaplan in Würzburg und promovierte 1955 bei Rudolf Schnackenburg zum Dr.theol. zum Thema: Ist 1 Kor 3,10–15 ein Schriftzeugnis für das Fegefeuer? Eine exegetisch-historische Untersuchung.
In Würzburg habilitierte sich Gnilka 1959 mit der Schrift Die Verstockung Israels. Isaias 6,9–10 in der Theologie der Synoptiker und war anschließend Privatdozent. 1962 wurde er zum ordentlichen Professor für Neues Testament in Münster/Westfalen berufen und wirkte 1975–1997 als o.Professor für Neutestamentliche Exegese und Biblische Hermeneutik an der Universität München. 1997 wurde er emeritiert.
Von 1973 bis 1988 war Gnilka Mitglied der Päpstlichen Bibelkommission und von 1984 bis 1994 Mitglied der Internationalen Bibelkommission. Von Papst Johannes Paul II. wurde er 1992 zum Ehrenprälaten ernannt.
Schüler von Joachim Gnilka sind unter anderem Hans-Josef Klauck, Detlev Dormeyer und Thomas Schmeller.