Großheringen liegt im Landkreis Weimarer Land im Nordosten Thüringens an der Grenze zu Sachsen-Anhalt, etwa 15 km nordöstlich der Kreisstadt Apolda. Die Ilm und die Saale durchfließen das Gemeindegebiet, wobei die Mündung der Ilm in die Saale unmittelbar unterhalb des Ortes Großheringen liegt.

Zur Gemeinde gehören außer dem namengebenden Ort das nördlich von Ilm und Thüringer Bahn gelegene Unterneusulza sowie das für seinen Weinbau bekannte Kaatschen-Weichau, an der Saale etwa 2 km oberhalb der Ilmmündung gelegen.

Nachbargemeinden sind Bad Sulza, Schmiedehausen und Dornburg-Camburg in Thüringen sowie Naumburg (Saale) und Lanitz-Hassel-Tal in Sachsen-Anhalt.