Baznīcas pirmsākumi meklējami 1780. gadā, kad Jelgavas birģermeistars H. Kloks testamentā savu mantību novēlēja jaunas mūra baznīcas celšanai vietā, kur atradās Annas vārti, vēlāk dēvēti arī par Pētera vārtiem. Tie bija nosaukti par godu Gotharda Ketlera sievai Annai, kas pa tiem devās uz hercoga muižām Vircavu, Emburgu un Rundāli. Jau 1705. gadā pie vārtiem atradās pilsētas nabagmāja un kapsēta ar mazu koka baznīciņu, kas tika saukta par nabagu baznīcu.
Tomēr tikai 1845. - 1847. gadā pēc arhitekta V. Šulca projekta vecās koka baznīcas vietā uzcēla mūra baznīcu. 1861. gadā tā dabūja atsevišķu mācītāju un 1862. gadā to nosauca par Svētā Jāņa baznīcu. J. Dēringa altārglezna "Kristus pie Krusta ar Mariju un Jāni" baznīcā atrodas kopš 1865. gada. 1882. gadā uzbūvēja tagadējo baznīcas torni.