Josef Neckermann je bil rojen v družini okrožnega ranocelnika in mestnega zdravnika Rudolfa Neckermanna v Celju. V rojstnem mestu je končal osnovno šolo in gimnazijo, nato pa študiral filozofijo in medicino na Dunaju. Leta 1868 je bil v Celju izbran za „posebnega špitalskega ordinarija«, po dograditvi nove bolnišnice pa ga je deželni odbor imenoval za sanitetnega svetnika. V letu 1870 je bil izvoljen za celjskega župana in je postal prava mestna institucija, saj je to funkcijo opravljal vse do smrti celih 23 let. Od leta 1867 do svoje smrti je bil tudi poslanec štajerskega deželnega zbora, kjer je zastopal volivce mestne kurije.
Mesto se je v času njegovega županovanja zelo hitro razvijalo. V veliki meri je pripomogel, da je država v Celju ustanovila Cinkarno, ki je pomenila veliko prelomnico v celjskem gospodarskem razvoju. Prizadeval si je tudi za regulacijo Savinje, tako da so jo v obdobju 1876 in 1893 od Mozirja do Levca tudi izvedli. V mestu so bila zgrajena številna javna poslopja: gledališče (1885), mestna hranilnica (1887), s preselitvijo osnovne šole v Staro grofijo (1873) je rešil šolsko prostorsko vprašanje, leta 1878 pa so na Čret preselili tudi mestno pokopališče. Na njegovo pobudo so ustanovili leta 1871 Olepševalno društvo, ki je pomembno zaznamovalo zunanjo podobo Celja in njegovo turistično ponudbo.
Politično je Neckermann zastopal trda nemška stališča; bil je med ustanovitelji nemške »obrambne«organizacije Südmark (ustanovljena je bila leta 1889 v Gradcu), ki je želela ustaviti rast slovenske politične moči na vseh področjih. Tudi v deželnem zboru je zahteval preprečitev slovenizacije celjske gimnazije in nasprotoval ustanovitvi slovenske Južnoštajerske hranilnice. Za svoje dolgoletno delo je prejel številna visoka priznanja: leta 1874 viteški križec reda Franca Jožefa, leta 1883 naziv cesarskega svetnika in leta 1892 še naziv celjskega častnega meščana. Osebno je bil znan po svoji skromnosti in tudi stanoval je v majhni, preprosti hiši na današnji Stanetovi ulici. Umrl je v Celju in je pokopan na mestnem pokopališču.
Vir: Tatjana Badovinac, Janko Germadnik, Branko Goropevšek; Celjani so jih poznali; Pokrajinski muzej Celje, Celje2010.