23. mája 1892 sa poslanci mesta Rimavská Sobota na základe rozhodnutia č. 802 jednohlasne vyslovili za to, aby sa pre potreby ľudovej a meštianskej dievčenskej školy postavila nová školská budova.
Stavba sa po nájdení vhodného pozemku začala okamžite. Základný kameň položili na prelome storočí. Budova školy, postavená podľa plánu architekta Bélu Tótha, bola dokončená v roku 1907 a stala sa majetkom mesta. Škola začala svoju činnosti až v školskom roku 1908/1909, kedy sa stala domovom Štátnej chlapčenskej a dievčenskej školy, Ľudovej dievčenskej školy, ako aj Školskej družiny. Po roku 1920 sa škola s vyučovacím jazykom maďarským nachádzala v jednej budove so slovenskou ľudovou školou, avšak v roku 1930 sa tieto dve školy rozišli. V roku 1939 sa Obecná meštianska dievčenská škola pretvorila na koedukovanú školu.
Po skončení 2. svetovej vojny sa v našom meste nenachádzala škola s vyučovacím jazykom maďarským. Pre žiakov maďarskej národnosti bolo štúdium v slovenskej základnej škole veľmi náročné. Výbava, zariadenie, učebné pomôcky pôvodnej školy sa počas vojny zničili. Poškodená zostala aj budova školy. Napokon v júni 1950 nastali veľké zmeny v školstve Rimavskej Soboty, konali sa zápisy do prvého ročníka školy s vyučovacím jazykom maďarským. 1. septembra 1950 sa začal prvý školský rok v Národnej škole s VJM.
Na základe školského zákona z roku 1953 sa spojili 2 školy mesta: Maďarská národná škola a Maďarská stredná škola. V školskom roku 1953/54 mala táto škola 16 tried, 503 žiakov a 20 vyučujúcich. V školskom roku 1964/65 začal svoju činnosť školský klub. Na začiatku ho navštevovalo 25 detí, ale počet sa zvyšoval z roka na rok. Od roku 1979/80 sa triedy 2. stupňa ZŠ špecializujú . V každom ročníku sa vytvorila trieda so zameraním na prírodné vedy a matematiku.
Po zmene spoločenských pomerov v novembri 1989 dostali žiaci možnosť študovať aj cudzie jazyky – angličtinu a nemčinu.
V školskom roku 1993/94 sa časť školy osamostatnila a vznikla ZŠ s VJM na ulici Dobšinského, ktorá napokon v roku 1997/98 dostala novú budovu na sídlisku Západ na Novomeskej ulici. V roku 2002 táto škola prijala meno ZŠ Istvána Ferenczyho.
1. júla 2008 Základná škola I. Ferenczyho splynula so ZŠ M. Tompu, čo znamená, že v súčasnosti prebieha vyučovanie v dvoch budovách, v centre mesta a na sídlisku Západ. Po zlúčení dvoch škôl sa naša škola stala jednou z najväčších škôl v meste, s viac než 500 žiakmi.