Paul Herman, 29 Mart 1946 tarihinde Brooklyn, New York'ta doğdu. Oyunculuk kariyerine 1970'lerin başındaellemente başladı ve ilk kez "The Gang That Couldn't Shoot Straight" adlı filmde rol alarak dikkat çekti. Daha sonra birçok televizyon dizisi ve filminde rol alarak adını duyurdu. Özellikle "The Sopranos", "Boardwalk Empire" ve "Orange Is the New Black" dizilerinde olduğu gibi kısa ama yenilikçi rollerde yer aldı.

Herman, kariyeri boyunca birçok ödüle layık görüldü ve sinema dünyasında büyük bir saygınlık kazandı. 2014 yılında "The Wolf of Wall Street" filminde oynadığı rolleriyle Eleştirmenler Seçimi Televizyon Ödülü'nü kazandı. Son olarak, HBO'nun "I Know This Much Is True" dizisinde oynadığı rolüyle büyük beğeni topladı. Şu an da yeni projelerde çalışmaya devam etmektedir.