Esta ermita se erige, según la tradición, sobre una antigua mezquita construida en el año 1244. Siglos después el templo pasó a ser titularidad de la Virgen del Carmen, que es la actúa patrona de Mula.
Aunque aún se conservan algunos aspectos de la Edad Media y del Renacimiento, lo cierto es que el templo es barroco. En el siglo XVIII se llevaron a cabo una serie de obras que adaptaron la estética del edificio al gusto barroco. Destacan los azulejos que embellecen la cúpula.