Že v zapisih iz leta 1865 lahko beremo o ustanovitvi Telovadnega društva, ki je položilo temeljni kamen organizirani rekreativni in športni vadbi v Celju. Potreba po tem je botrovala tudi ustanovitvi Sokolskega društva v Celju. Telovadna vadba je postala osnova in temelj vsem ostalim vadbam in športom, ki so jih gojili Celjani. Tako je ostalo tudi do uradne ustanovitve TVD Partizan Gaberje.
Čeprav sta obe svetovni vojni za kratek čas ustavili razvoj, so bili temelji tako trdni, da je Celje hitro znova stopilo v korak z razvojem gimnastike. Sadovi dobrega dela so se hitro pokazali in v šestdesetih in sedemdesetih letih je imel Partizan eno najboljših gimnastičnih ekip v republiki s kar nekaj državnimi reprezentanti. Tine Veber, Alojz Savodnik, nekaj kasneje še bratje Šrot – med njimi je še posebej izstopal Tine, Konrad Grilc in Avgust Küsel so dosegali velike uspehe ne le kot člani TVD Partizan Gaberje, pač pa tudi kot občasni ali stalni člani jugoslovanske gimnastične reprezentance. Naslednje generacije v sedemdesetih in osemdesetih so tako na krilih vrhunskih rezultatov poskrbele za množičen obisk gimnastičnih treningov s strani mladih, vendar je razvoj discipline zahteval vedno zahtevnejše pogoje, k temu pa je dodatno pripomogla ustanovitev nacionalne Gimnastične zveze, ki je svoj center vrhunskih telovadcev želela v Ljubljani. Tako so v Gaberju ohranili delo z mladimi telovadci in telovadkami, svoje tekmovalne ambicije pa usmerili v partizanski mnogoboj. Žal je po osamosvojitvi Slovenije zanimanje za gimnastiko tako upadlo, da Celje danes ne premore več lastnega gimnastičnega kluba, in to kljub izjemno bogati tradiciji. Ogledalo tistega obdobja vrhunske gimnastike v Celju nam danes kažejo samo še mnogi pokali in medalje v vitrinah ter najvišja državna športna priznanja, Bloudkove nagrade in plakete, ki so jih prejeli člani in društvo.