John Michael Higgins, 1963 yılında Boston, Massachusetts'de doğdu. Genç yaşlarında tiyatro ve komedi oyunculuğuna olan ilgisini keşfeden Higgins, eğitimini yerel tiyatro topluluklarında ve daha sonra New York'ta sürdürdü. Bu dönemde sahne tecrübesi kazanmasına yardımcı oldu. İlk kez sinemadaki rolü, Christopher Guest'in komedi filmlerinden birinde oldu. Bu rol, onun kariyerinin ilk adımlarını attığı ve komedi türünde yeteneğinin fark edilebilmesini sağladı.

Higgins, kariyerinin zirve noktalarından birini "Wag the Dog" adlı filmde yaşadı. Bu filmdeki rolü ile dikkat çekti. Ayrıca, HBO'nin "The Late Shift" adlı televizyon dizisindeki David Letterman rolü ile de önem kazandı.