Kremplovo najpomembnejše delo je Dogodivšine štajerske zemle, saj je prva obsežnejša zgodovinska knjiga v slovenskem jeziku. V tej knjigi se Krempl ni osredotočil samo na politiko, temveč se je ukvarjal tudi z verskim, s kulturnim in z vsakdanjim življenjem Slovencev.