Südwestlich der Innenstadt ragt eine imposante Stützmauer über der Frankfurter Straße auf, die den hier steil abfallenden Hang des Weinbergs hält. Die terassenförmig angelegten Gärten werden für Veranstaltungen (z. B. Weinbergfest, Ausstellung „Lichte Wege“) genutzt. Unter dem Weinberg gibt es ein Stollenlabyrinth, das im Rahmen von Führungen besichtigt werden kann.
Schon seit dem Mittelalter wurde auf dem Berg Wein angebaut, dessen Qualität allerdings nicht die beste war. Durch seine reizvolle Lage rückte der Weinberg im 16. Jahrhundert in das Interesse der Landgrafen. Um 1800 wurden die fürstlichen Besitzungen auf dem Weinberg an Bürger verkauft, die mehrere Stollen zum Lagern von Wein und Bier in den Fels trieben. Die Erdschichten über der Anlage sind bis zu 35 Meter dick und sorgen für eine gleichbleibende Temparatur von ca. 12 °C zu jeder Jahreszeit. Nach dem ersten schweren Luftangriff während des zweiten Weltkriegs im September 1941 wurde das Stollenlabyrinth der Bierbrauer zu einem Bunker ausgebaut, in dem bis zu 10.000 Personen Zuflucht fanden.
