Klevevški grad, od katerega so ostale le še razvaline obodnega zidovja, je bil prvič omenjen leta 1267. Nekoč so ga imenovali Kligenfels (zveneča skala) zaradi potoka Radulje, ki je v skalah pod gradom ustvarjala zvoke, ki so spominjali na oddaljeno zvonjenje. V bližini gradu stoji nekdanja grajska pristava z gospodarskimi poslopji. Klevevž so zgradili freinsinški škofje. Klevevški gospodje pa so prvič omenjeni leta 1267. Grad je iz cerkvenih rok prešel v državne, nato pa v posest francoske družine in zatem s poroko pod družino Ulm. Med drugo svetovno vojno je bil grad požgan.
Naravna znamenitost pod Klevevžom je klevevška toplica, naravni izvir vode, ki je tudi pozimi topla in se od ostalih izvirov loči po tem, da je temperatura vode celo leto od 21 do 25 stopinj Celzija. Prijetna osvežitev poleti kot tudi toplo razvajanje sredi neokrnjene narave pozimi.
