Questa parrocchia è la più recente, nel comune di Castelforte, difatti è stata istituita con  Decreto dell’Arcivescovo di Gaeta, Mons. Dionisio Casaroli, nel Novembre del 1972 che indicava tra l’altro come sede provvisoria, l’antica chiesa di Santa Maria in Pensulis  mancando altri edifici. Ciò a causa della notevole espansione urbanistica della pianura e della zona termale che rendeva inadeguato il servizio pastorale, demandato alla sola parrocchia di S. Michele Arcangelo. La chiesa fu dedicata a S. Maria del Buon Rimedio, protettrice dell’Ordine Trinitario, ai cui frati, che già reggevano la parrocchia di S. Michele Arcangelo, fu affidata.  
Più tardi, considerando l’impossibilità di riassesto dell’antica S. Maria in Pensulis, si è  optato per la costruzione di un complesso parrocchiale tutto nuovo. L’opera fu terminata nel 1997 con la  sua consacrazione, patrona della comunità è la Madonna sotto il titolo di Santa Maria in Pensulis.