Dès la création de l’abbaye au XIIe siècle fut construite une église en style roman, dont on a perdu toute trace.

Entre 1253 et 1274 fut édifiée une très grande église gothique, qui s’inspirait des grandes cathédrales médiévales de la moitié nord de la France. C’est le climat de prospérité économique de l’époque qui a permis la construction d’un tel édifice, de taille à peu près équivalente à la collégiale Ste-Waudru de Mons : plus de 100 mètres de long et 23 mètres de large, 25 mètres de hauteur ! Des fouilles au XXE siècle ont mis à jour le tracé du chœur et de ses chapelles rayonnantes, et de rares vestiges de cet édifice subsistent dans les murs des bâtiments postérieurs.

Au XVe siècle, la longueur de l’église fut réduite, et la tour actuelle fut édifiée.

Dévastée lors des guerres de religion du XVIe siècle, l’abbaye et son église furent rénovées au XVII siècle, grâce notamment au soutien des Archiducs Albert et Isabelle, qui offrirent deux couronnes d’argent pour la statue de Notre-Dame de Bonne-Espérance.

La prospérité du XVIIIe siècle permit la reconstruction d’une bonne partie des bâtiments de l’abbaye, qui prit alors l’aspect qu’on lui connaît toujours aujourd’hui. En 1770, les Chanoines confient la construction d’une nouvelle église au célèbre architecte Laurent-Benoît Dewez (qui travaillait à la Cour de Charles de Lorraine, gouverneur des Pays-Bas autrichiens). L’ancienne église est démontée, et une nouvelle est édifiée dans l’axe de la tour gothique conservée. L’édifice prend le style alors au goût du jour : le néo-classicisme, qui s’inspire de l’Antiquité romaine.