L'église primitive avait été fondée en 1219 par Guillaume Acarin qui avait fait voeu lors de son pélerinage à Jérusalem de bâtir à Caen une église semblable à celle du Saint-Sépulcre.
Si l'on en croit les écrits, il s'acquitta généreusement de ses engagements et l'église était pour l'époque considérait comme une petite merveille. On y remarquait surtout une chapelle dite Du Monument parce qu'elle représentait fidèlement le tombeau de J.C. et qu'on y conservait un morceau de la vraie croix que toutes les paroisses de Caen allaient processionnellement adorer le dimanche des Rameaux.
Comme l'église se trouvait en dehors des enceintes de la ville de Caen, les chanoines se virent obligés de se mettre en sureté en s'entourant de remparts et de fossés. Ces travaux eurent lieu au XIVème siècle, et en 1376 le Sépulcre disposait alors d'un fort.
Malgré ces précautions, l'église du Sépulcre tomba au pouvoir des anglais en 1417, mais suite à divers désastres qu'ils considéraient être des punitions divines ils rendirent l'église aux chanoines qui firent alors dresser une chapelle.
Les protestants dévastèrent à leur tour l'église en 1562. L'oeuvre de vandalisme fut poursuivi par le duc de Bouillon, gouverneur de Normandie. L'édifice fut démoli à coups de canon "pour empêcher d'inquiéter de cette position élevée la garnison du château".
Après ce vandalisme, les chanoines du Saint-Sépulcre obtinrent du chapitre de Bayeux la chapelle de Sainte-Anne située près de l'ancienne église. Ils y ajoutèrent quelques constructions et élevèrent au XVIIIème siècle la partie qui forme le choeur actuel.
En l'année 1629, les chanoines firent établir à leurs frais les degrés qui conduisent encore, de la rue du Vaugueux à la place du Saint Sépulcre. L'église (le culte) a été supprimée à la Révolution.