1965'te Arthur ve Arlene Coleman-Schwimmer çiftinin çocuğu olarak New York'ta Flushing'de doğdu. Ellie adlı bir kız kardeşi vardır. Çocuk yaşlarda tiyatroya ilgi duyan Schwimmer İngiltere'de Ian McKellen'ın verdiği bir Shakespeare kursuna katıldıktan sonra Shakespeare ve tiyatroya ilgisi iyice arttı. Ailesiyle birlikte Beverly Hills'e taşındı. Beverly Hills Lisesi'nde, ardından Northwestern Üniversitesi'nde okudu. 1989 yapımı A Deadly Silence adlı televizyon filmiyle TV hayatı da başladı. 1994'te başlayan ve 10 sezon devam eden Friends dizisindeki sakar ve asosyal paleontolog Ross Geller rolüyle tüm dünyada tanındı ve önemli şöhret kazandı. Bu dönemde 2003 yapımı mini dizi Band of Brothers'da da oynayan Schwimmer, Herbert Sobel rolüyle En İyi Yardımcı Oyuncu dalında Satellite Ödülü kazandı.

Schwimmer, aktörlük ve senaryo yazarlığının dışında yönetmenlik de yaptı. Bir ara Friends'in kahramanlarından Joey in ailesini anlatan TV dizisi Joey'in 2 bölümünü yönetti. Yönettiği ilk sinema filmi ise 1998 yapımı Since You've Been Gone idi. 2007'de Run Fatboy Run'ı da yönetti. Ayrıca Madagascar filmlerinde Melman karakterini seslendirdi.

2010'da İngiliz Zoë Buckman'la evlenen Schwimmer'ın 2011 doğumlu Cleo Buckman Schwimmer adlı bir kızı bulunuyor.