La Ermita de San Juan de la Cruz tiene sus orígenes en 1573, cuando los frailes carmelitas de La Peñuela construyeron una pequeña capilla-oratorio en la hacienda del baezano Alonso Sánchez Chacón, quien poseía una casa-cortijo en el lugar. Posteriormente, los frailes se constituyeron como convento en este mismo espacio. Con el impulso del proyecto colonizador de 1767, el convento, su huerta y sus propiedades fueron expropiadas para la creación de La Carolina.
El pequeño oratorio original fue ampliado para dar lugar a una ermita dedicada a San Juan de la Cruz, que además se convirtió en la capilla del primer cementerio de la ciudad, ubicado a su lado. Se cuenta que algunos frailes de La Peñuela afirmaron haber visto a San Juan de la Cruz oficiando misa en esta ermita, coincidiendo con el momento de su muerte en Úbeda el 14 de diciembre de 1591. Este milagro se recoge en el cuadro de Sánchez Sola, que preside el altar de la capilla.
La ermita ha sido restaurada y se mantiene en buen estado de conservación, siendo un importante lugar de culto y referencia religiosa.