1939'da, Romanya Yahudisi Miriam ve Polonya Yahudisi Harry Keitel'ın çocuğu olarak Brooklyn'de doğdu. Renee ve Jerry adlarında iki kardeşi bulunuyordu. Brooklyn'in Brighton Beach bölgesinde büyüdü. Brooklyn'deki Abraham Lincoln Lisesi'ne gitti. 16 yaşındayken Amerikan Donanması'na katıldı, Lübnan'da görev yaptı. Dönüşünün ardından bir süre mahkeme muhabiri olarak çalıştı.
Stella Adler ve Lee Strasberg gibi çok önemli iki hocadan oyunculuk eğitimi alan Keitel, tiyatro oyunlarında oynamaya başladı. Bu sayede Martin Scorsese'nin dikkatini çekti ve yönetmenin ilk uzun metrajlı filmi olan 1967 yapımı Who's That Knocking at My Door'da başrolde oynadı. Daha sonra Scorsese'nin 1973 yapımı Mean Streets filminde, o sıralar çok tanınmayan Robert De Niro ile başrolü paylaştı. 1976'da yine Scorsese'nin klasikleri arasına giren Taxi Driver'da, çocuk yaştaki Iris'i erkeklere pazarlayan Sport rolüyle takdir kazandı. 1977'de Ridley Scott'ın The Duellists, 1991'de Thelma & Louise filmlerinde oynadı. Yine 1991 yapımı Bugsy'deki Mickey Cohen rolüyle En İyi Yardımcı Oyuncu dalında Oscar adayı oldu. Bu dönemde birçok filmde oynayarak Hollywood'un en sağlam yardımcı oyuncuları arasına girdi.
Dönemin yükselişteki yönetmeni Quentin Tarantino'nun 1992 yapımı Rezervuar Köpekleri (Reservoir Dogs) filminde Bay Beyaz'ı 1994 yapımı Ucuz Roman (Pulp Fiction) filminde ise "sorun çözücü" Bay Wolf karakterlerini canlandırmasıyla bir kez daha sinema izleyicilerinin aklında kalacak karakterlere imza attı. Ayrıca Abel Ferrara'ın Bad Lieutenant (1992), Jane Campion'ın The Piano (1993) ve James Mangold'ın Cop Land (1997) gibi filmlerinde çok önemli roller aldı. 2002 yapımı Hannibal Lecter uyarlaması Kızıl Ejder'de (Red Dragon) ajan Jack Crawford'ı canlandırdı.
1982'den 1993'e kadar aktris Lorraine Bracco ile birliktelik yaşayan Keitel'ın 1985 doğumlu Stella adlı bir kızı bulunmaktadır. Lisa Karmazin'le ilişkisinden 2001'de doğan Hudson adlı oğlu olan Keitel, aynı yıl Kanadalı aktris Daphna Kastner ile evlendi. 2004'te Roman adlı bir oğlu daha dünyaya geldi.
Ayrıca uzunca bir süre Al Pacino ve Ellen Brustyn ile brilikte Actors Studio'larının eş başkanlığını yapmışdır.
