Die Kirche liegt einem 950 gegründeten Benediktinerkloster zugrunde. Nachdem man sie auf dem nahe liegenden Kalkberg fand, wurde sie Ende des 14. Jahrhunderts an der heutigen Stelle wieder errichtet. Da die Klosteranlagen im 18. Jahrhundert abgerissen wurden, kann man heute nur noch die Klosterkirche besichtigen. Ihre Bekanntheit hat die St. Michaeliskirche durch Johann Sebastian Bach erlangt, da er von 1700 bis 1702 in der dreischiffigen Halle musizierte.