Jože Karlovšek je šel leta 1926 v službo k Ljubljanski gradbeni družbi, ki je bila takrat v Ljubljani največje gradbeno podjetje. Tam je bil tehnični uradnik, projektant in tudi gradbeni vodja. Gradil je predvsem za industrijalca Frana Bonača. Sodeloval je pri Hidrocentrali na Duplici pri Kamniku in postavitvi tovarniških objektov Papirnice na Količevem pri Domžalah. Kasneje je šel od Ljubljanske gradbene družbe k Bonaču, kjer je bil z malimi presledki zaposlen do začetka druge svetovne vojne.