Era il 13 Aprile 1549, quando l’allora Arcivescovo di Trani Mons. Giovanni Domenico de Cuppis, accordava l’autorizzazione a trasferirsi tra le mura cittadine ai carmelitani che alloggiavano presso il convento Gesù Maria posto sulla vecchia via per Barletta. In quest’occasione venne ristrutturato ed ampliato il convento de San Giovanni della Penna dell’Ordine dei Gerosolimitani. Nel 1600 venne annessa una chiesa dedicata alla Madonna del Carmelo, costruita sui ruderi della preesistente chiesa di San Giovanni della Penna.

Della costruzione cinquecentesca non vi è rimasta che la parte inferiore della facciata a bugnato rustico divisa da parastre, con esclusione del portale, rinnovato successivamente. Fino al 1809 vi officiarono i Padri Carmelitani. E dopo vari passaggi solo nel 1929 si insediarono i Padri Barnabiti. Anche il portale dell'attiguo edificio, una volta cenobio carmelitano, riquadrato e sormontato da fregio ha i caratteri tipici dell'architettura civile del seicento.

La torre campanaria, che si eleva a destra del prospetto, con la cella superiore di stile neoclassico, fu realizzata nel 1863 su progetto di Giuseppe Monetti. All’interno della chiesa è possibile ammirare numerosi dipinti tra cui la famosa Madonna della Fonte risalente al XIV secolo, che la leggenda vuole sia arrivata sul dorso di un grosso pesce nel sabato santo del 1234.
Tra gli altri dipinti ricordiamo la Crocifissione di Francesco Marchese o la Sant’Anna che insegna a leggere alla Vergine dello stessa artista. Infine non và dimenticata la preziosa Madonna del Carmine col Bambino opera di Nicola Benzene datate 1774.