Gemma Jones 1942 yılında Londra'nın Marylebone semtinde doğdu. Oyunculuğa ilk adımlarını tiyatroda attı ve kısa zamanda sahne performanslarıyla dikkat çekti. Erken kariyeri boyuncu oyunculuk ve televizyon rolleriyle kariyerine devam etti. 1995 yılında, Jane Austen'in romanından uyarlanan "Sense and Sensibility" filminde Mrs. Jennings rolünü üstlendi. Bu film, onu geniş kitlelere tanıttı ve kariyerine önemli bir dönüm noktası oldu.

Gemma Jones, "Bridget Jones's Diary" (2001) filminde Pam rolüyle ve "Harry Potter" serisinde Madam Pomfrey rolünde yer aldı. Bu projeler onun kariyerinin zirve noktalarını işaret eden rollerdi.