Parken gik tidligere under navnet Marielund (opkaldt efter den daværende kronprinsesse), men blev fra omkring 1842 kaldt Tøjhushaven.
Tøjhushaven er anlagt i en romantisk stil med lindeallé, lindelysthus, mindesten og gamle granitsøjler, afgrænsede bede og sirlige stier. Her kunne borgerskabet promenere på søndagsturen. Samtidig er der spor af fordums militære aktiviteter i form af krudthus, en kanonrampe til tøjhuset og en kanal, hvor man kan sejle kanoner ind fra fjorden.
I 2002 blev Tøjhushaven moderniseret i forbindelse med et kvarterløftsprojekt, og der blev etableret en række nye publikumsfaciliteter, såsom legeplads, grillborde, bålhytte, petanquebaner og borde/bænkesæt. Senere har parken fået en multibane og grill. Dette gør parken til et velegnet udflugtsmål for børnefamilier.
