1910-1911 m. senasis Vilkaviškio geležinkelio stoties pastatas buvo dalimis atvežtas iš Vilkaviškio ir taip tapo pirmąja dviklase mokykla Kazlų Rūdos gyvenvietėje, tuometinis adresas Stoties g. Nr. 1 (dab. Vincento Borisevičiaus gatvė). Mokykla priklausė geležinkelių valdybai. Mokyklos patalpose buvo įrengtos klasės ir butai mokytojams. Prie jos veikė bendrabutis, kuriame 1913 m. gyveno 60 geležinkeliečių vaikų. Bendrabutis buvo įsikūręs dabartinėje Esperanto gatvėje.
1913 m. mokykloje mokėsi 85 geležinkeliečių vaikai, kurie gyveno prie geležinkelio ruožo Garliava – Kybartai. Už mokslą buvo imamas nedidelis mokestis. Mokykloje mokėsi tik berniukai, jiems buvo privaloma dėvėti uniformą. Vaikai traukiniu vykdavo į ekskursijas į Maksvą ar Sankt Peterburgą. Jos buvo nemokamos, išlaidas padengdavo geležinkelio valdyba.
Visi mokytojai buvo rusų tautybės, todėl vaikams mokykloje pamokos buvo dėstomos tik rusų kalba ir lietuvių kalba kalbėti pamokų metu buvo draudžiama. 1914 m. dirbo 7 mokytojai. Mokyklos vedėju dirbo Andrejus Aleksandrovičius Lavkovskis, labai griežtas ir reiklus, dėstė rusų kalbą, jo žmona Nadežda Jemeljanova Lavkovskaja – gamtą. Mokytojas Danilas Gerasimovičius Chutorcevas buvo pažangių pažiūrų, dėstydavo muziką, vadovavo chorui. Tikybą dėstė provoslavų popas, karinį rengimą – carinės armijos kapitonas į pamokas iš Kauno atvykdavęs su 2 kareiviais, kurie rikiuotės metu mušdavo būgną.
Mokykla veikė iki Pirmojo pasaulinio karo. Karo metu pastate buvo įsteigta ligoninė. Po karo geležinkeliečių mokykla veikė tik dvejus metus. Laikraštyje „Lietuvos ūkininkas“ (1922 m. vasario 01 d. P.7.) galime rasti žinutę, kad Kazlų Rūdoje nėra nei vienos mokyklos – „Užėjo vokiečiai ir iš mokyklos pastato padarė belaisvių stovyklą, kuri ir šiandien tebėra. O kito namo pasirūpint nenori.“ – rašoma to meto spaudoje. Pastate laikinai buvo įsikūrusi policija, vėliau jis atiduotas gyventojams.
1923 m. sausio 23 d. Marijampolės apskrities švietimo komisija priėmė nutarimą dėl pradžios mokyklos steigimo Kazlų Rūdoje. Geležinkelio valdyba suteikė du kambarius, viename mokėsi I, II ir III skyriaus mokiniai, o kitame gyveno pradžios mokyklos vedėjas Kazimieras Bukšnys. Pirmame aukšte buvo įsikūręs paštas. Vėliau augant mokinių skaičiui iš patalpų šeimos buvo iškeliamos ir mokyklai atiteko visas antras aukštas. 1923 m. įkurto Kazlų Rūdos pradžios mokyklos tėvų komiteto pirmininko (geležinkelio stoties viršininko) A. Baubo iniciatyva 1923 m. vasario 1 d. Geležinkelio valdyba pastatą atidavė Marijampolės apskrities skyriaus švietimo skyriui. Pradžioje mokyklos inventorius buvęs labai skurdus, trūko mokyklinių suolų, triviečiuose, keturviečiuose suoluose sėdėjo po 4-6 mokinius. Prie mokyklos inventoriaus stiprinimo prisidėjo mokinių tėvai, dalį užsakę ir nupirkę Kybartuose kitą dalį gamindavę pagalbiniame geležinkelio stoties pastate. Šis pastatas buvo perduotas mokyklai, o jame buvo įrengtos paprasčiausiomis apdirbimo staklėmis aprūpintos medžio bei metalo dirbtuvės.
1926 m. mokykloje veikė jau 6 skyriai. 1928 m. pradėjus vykdyti privalomojo pradinio mokymo įstatymą, mokinių skaičius dar šiek tiek padidėjo. 1939 m. mokykloje jau veikė septyni skyriai, septintasis skyrius buvo gamybinio profilio.
Mokyklos dokumentų nėra išlikę, kadangi 1941 m. pastatas sudegė, vėliau jo vietoje buvo pastatytas mūrinis gyvenamasis namas, kuris stovi iki šiol.