Nåværende hovedbygning er reist av Peter Nicolai Arbo (1778-1827) som lystgård i 1804. Samtidig ble den ca 30 dekar store parken anlagt. Parken er en av landets best bevarte historiske hager. 150 store trær danner en 265 m lang lindeallé langs elva.
Parken har flere kanaler og dammer, en av landets få bevarte labyrinter, spaserveier og åpne plenflater. I parken finnes demonstrasjonsfelt med kryddervekster. I sommerhalvåret er det påfugler og ender i parken. Gulskogen gård er en del av Drammens Museum.