Pasado el ecuador del siglo XIX , se diseñó una arbolada avenida extensa, bautizada como las Delicias, desembocando en un jardín. A finales de ese mismo siglo, el alcalde Eduardo Genovés realizó una adaptación definitiva, dotándola de un romántico aspecto.
De forma poligonal, colinda con el Hotel Atlántico, el Paseo de Santa Bárbara, la Avenida Duque de Nájera y con la Calle González Tablas, ubicada la entrada principal. Desde ahí se introduce a una gran avenida central, en tres calles distribuida por una simétrica doble hilera de parterres.
Contiene diversas especies de flora , que lo confieren en un verdadero Jardín Botánico y se enriquece con varios monumentos (José Celestino Mutis y José María Permán), así como la famosa fuente de. los Niños de Paraguas.
En la Gruta conviven diversas especies de aves en una cascada, confiriéndola como el lugar más icónico del parque.