Baja város története messzire visszanyúlik a középkorba. A város létével szorosan összefonódik a templom története. Szinte a honalapítással egyidőben telepednek meg magyarok ezen a vidéken.

A kedvező földrajzi helyzet miatt megtelepedő szép számú lakosságot szolgálja, a már akkor létező templom. 1391-ben ferences szerzetesek is megtelepedtek a városban. A török megszállás után a délszláv lakosság mellett a német a magyar és a szláv (szlovák) népesség részben a betelepítések másrészt az itt állomásozó katonaság révén telepedett le. Az ő lelkipásztori ellátásukra alapította 1722-ben gr. Csákhy Imre kalocsai érsek a plébániát.

A mai templom helyén egy kisebb templom állt, amely 1722-ben épült fel. Ennek szentélye a maiéval azonos volt, de hajója és főbejárata a nyugati oldalon a mai gimnázium előtt állt. Temető vette körül. Ennek a templomnak három oltára volt, a főoltár Péter és Pál főapostolok, a másik kettő pedig a Boldogságos Szűz Mária tiszteletére volt szentelve. A kórusán négy regiszteres orgona volt.

Az új templom építése 1742-ben kezdődött és 1764-ben fejezték be, ennek hossza: 36 m, szélessége: 15 m. Ekkor a toronyban négy harang, a templomban négy oltár volt. A márványból készült főoltár az 1790-es években készült, az akkori kegyúr, Grassalkovich Antal adományaként.