Unweit der Kapelle befindet sich der Ottilienfelsen. Dieser diente dem „Heiligen Burkhardt“, einem Einsiedlermönch, einst als Quartier. Er war ein früher Bote des Christentums und bekämpfte im 8. Jahrhundert die letzten Züge des Heidentums im damaligen Siedlungsgebiet von Suhl. Die Ottilienkapelle soll demnach an einer ehemaligen heidnischen Kultstätte (Quell-, Felsen- und Baumkulte) erbaut worden sein. Ein Suhler Arzt fand Ende des 18. Jahrhunderts eine im Felsen entspringende Mineralquelle, die man heute Ottilienquelle nennt.

Die heutige Kapelle wurde 1843 neu erbaut. Sie steht auf dem sogenannten Ottilienstein, einem Felsen am Domberg, dem Hausberg von Suhl.