Jürgen Prochnow, 1941 yılında Almanya'nın başkenti Berlin'de dünyaya geldi. İkinci Dünya Savaşı sonrasında Almanya'da büyüyen Prochnow, oyunculuk hayatı için tiyatralarla tanıştıktan sonra Essen'deki Folkwang Sanat Üniversitesi'nde eğitim gördü. Kariyerinin başlangıç dönemlerinde Alman tiyatrolarında ve televizyon yapımlarında yer aldı ve sonraki yıllarda yönetmen Wolfgang Petersen ile işbirliği yapmaya başladı.

Jürgen Prochnow'un uluslararası başarıyı getiren rolü, Wolfgang Petersen'in yönettiği 1981 yapımı "Das Boot" filminde canlandırdığı U-boot kaptanı "Der Alte" rolü oldu. Bu performansıyla Prochnow, sinema tarihindeki en ikonik kaptan portrelerinden birini yaratmış ve dünya çapında ün kazanmıştır.