Že v dijaških letih, leta 1955, se je Edvard Goršič pridružil plesnemu orkestru Žabe.
V letih 1958–1964 je iz nekaterih članov plesnega orkestra nastala manjša glasbena zasedba imenovana Metronom, v kateri so poleg Edvarda Goršiča (klavir in harmonika), igrali še Milan Ferlež (kitara), Janko Četina (saksofon) in drugi. Metronom je igral širom po Sloveniji, sodelovali so s priznanimi slovenskimi in hrvaškimi pevci, nekaj gostovanj pa so imeli tudi v Avstriji.
Edvard Goršič je sprva v Celjskem plesnem orkestru Žabe igral klavir in harmoniko, po letu 1971 je postal tudi dirigent orkestra, preizkusil pa se je tudi kot aranžer. Leta 1971 so Žabe prešle pod okrilje Železničarskega prosvetnega društva France Prešeren, kjer so kot zabavni orkester Žabe tvorile samostojno sekcijo. Pod Goršičevim vodstvom so se Žabe iz amaterskega orkestra prelevile v kvaliteten glasbeni sestav. Pod njegovo taktirko so tudi prvič izvedli samostojen letni koncert, ki je ostal tradicionalen vse do danes. Žabe so se zgledovale po visokokakovostnih plesnih jazz orkestrih iz Ljubljane, Zagreba in Beograda. Z Žabami so sodelovali priznani pevski solisti, kot so Alenka Pinterič, Ditka Haberl, Majda Sepe in Oto Pestner ter skladatelji Bojan Adamič, Jože Privšek in drugi.
Žabe so igrale na različnih plesnih prireditvah po Sloveniji, pod Goršičevim vodstvom so prvič nastopili tudi na takratni RTV Ljubljana. Edvard Goršič je Žabam dirigiral polnih 14 let (1971–1977 in 1984–1991), kar je še do danes rekord med dirigenti orkestra. Pod Goršičevim vodstvom so žabe izvedle tudi skupne koncerte z Mešanim pevskim zborom France Prešeren.
Edvard Goršič je bil znan po tem, da je na plesih poleg vodenja orkestra znal poskrbeti tudi za dobro voljo publike v dvorani. Izza dirigentskega pulta je zbijal šale, vodil družabne igre med plesi in premori ter tudi s sodelovanjem vseh prisotnih plesalcev ustvaril takšno prešerno vzdušje, da se ob koncu plesne prireditve nikomur ni mudilo domov. Po navadi je takrat Goršič pričel na klavirju sam kot pianist preigravati razne melodije, ob tem se mu je večkrat pridružil kdo izmed kolegov s trobento in zabava se je nadaljevala.