Die Augustiner-Eremiten begannen um 1300 mit dem Bau der Kirche auf dem heutigen Gelände des dazugehörigen Augustinerklosters. Im Vergleich zu anderen Erfurter Bettelordenskirchen, ist die Augustinerkirche die älteste und die am frühesten vollendete Kirche. Besonders sehenswert sind u. a. die aus dem 14. Jahrhundert stammenden Farbglasfenster sowie drei Grabplatten mit der Darstellung Geistlicher des Augustinerordens im Chor.

Martin Luther trat am 17. Juli 1505 in das Kloster ein. Dienstgeschäfte führten Johann Sebastian Bach später zu Besuchen in die Stadt seiner Verwandten, etwa 1716 zur Abnahme der neuen Orgel in der Augustinerkirche.