Marijampolės Rygiškių Jono gimnazijos istorija neatsiejama nuo XIX a. pabaigoje užgimusio Lietuvių tautinio atgimimo istorijos.
Iš šios carinės imperijos suformuotos švietimo institucijos, skirtos Lietuvių tautos rusinimui, išėjo tokie tautinės savimonės žadintojai: Mikalojus Akelaitis, Jonas Basanavičius, Vincas Kudirka, Petras Arminas-Trupinėlis, Petras Kriaučiūnas ir dar daugelis kitų. Gimnazijos auklėtiniai buvo tarp pirmųjų knygnešių, tautinio judėjimo aktyvistų kūrusių Lietuvos valstybę, su šia institucija siejama dešimtys (gal net šimtai) garsių pavardžių prie kurių pridedami žodžiai: patriarchas, pradininkas, pirmasis, klasikas, daktaras, profesorius, mokslininkas, kūrėjas...
Gimnazijos istorija prasideda 1840 m., kai iš Seinų į Marijampolę buvo perkelta keturklasė apskrities mokykla. Ji įsikūrė mediniame name prie Turgaus (J. Basanavičiaus) aikštės rytinio šono. Dabar šioje vietoje stovi mūrinis pastatas, dar žinomas kaip Babarskio namas. Progimnazijoje vyravo lenkiška dvasia, lietuvių kalba niekinama, o už jos vartojimą net baudžiama. 1866 m. pasirodė įsakas dėl apskrities keturklasės mokyklos pertvarkymo į gimnaziją. 1867 m. veiklą pradėjusi gimnazija glaudėsi senajame name, kuris priklausė pirkliui Babarskiui. 1870 m. prie Degučių kaimo ribos, tarp Kauno gatvės ir Šešupės slėnio, išaugo nauji gimnazijos rūmai. Mūro sienas nudažytas geltona spalva (vėliau balta) dengė raudonų čerpių stogas. 1877 m. pietinė pastato dalis prailginta, todėl suiro rūmų proporcijos. Vėliau sumažėjus mokinių skaičiui ir sujungus klases pirmame aukšte buvo įrengta sporto salė, o antrame (apie 1897 m.) – provoslavų koplyčia.
Parodaksali situacija: po 1863 m. sukilimo uždraudus lietuvišką spaudą, visoje Lietuvoje uždarinėjamos mokyklos (daugiausiai lietuviškos), o Suvalkų gubernijoje – steigiamos naujos mokslo įstaigos. Gimnazija laikėsi griežtos lietuvių tautos rusinimo politikos, tačiau į programą įtrauktos lietuvių kalbos pamokos gimnazistams suteikė galimybę pretenduoti į Maskvos ir Peterburgo universitetų stipendijas. Nors visa tai buvo daroma norint paspartinti lietuvių tautos rusinimą ir sumažinti lenkų įtaką lietuviams, tačiau šie carinės valdžios sprendimai davė netikėtus vaisius. Gimnazija tapo tikru lietuvybės židiniu, lietuvių tautinio atgimimo patriotų kalve. Nacionalinio sąjūdžio idėjoms (Marijampolės gimnazijai, kaip ir visai Lietuvai) reikšmingu įvykiu tapo pirmųjų lietuviškų laikraščių pasirodymas, kuris paveikė daugelio mokinių dvasią ir ryžtą.
Prasidėjęs Pirmasis pasaulinis karas nutraukė įprastą gyvenimo ritmą. Gimnazijos darbas sustojo, kai vokiečių kariuomenė 1915 m. pradėjo puolimą rytuose. Gimnazija ir dalis lietuvių mokinių įsikūrė Rusijos gilumoje, Jaroslavlyje. Lietuvai sukūrus nepriklausomybę gimnazija vėl pradėjo dirbti Marijampolėje, todėl 1921-01-01 mokyklai suteiktas Rygiškių Jono gimnazijos vardas. Nepriklausomos Lietuvos tarpukaryje mokykla garsėjo, kaip viena geriausių gimnazijų Lietuvoje. 1940 m. Lietuvą okupavus bolševikams, ši mokymo įstaiga neteko savo vardo. 1949 m. aštuonių klasių gimnazija buvo performuota į vidurinę mokyklą su vienuolikos metų mokymu. Ji tapo Marijampolės pirmąja vidurine mokykla, o 1956 m. buvo suteiktas Jono Jablonskio vardas. Didėjant mokinių skaičiui, 1958 m. buvo pastatytas trečiasis aukštas.
XX a. paskutiniajame dešimtmetyje atkūrus nepriklausomybę, mūsų mokykla siekė atgauti seniau turėtą gimnazijos statusą ir buvusį vardą. Viso pedagogų kolektyvo ir administracijos pastangomis, šį siekį pavyko įgyvendinti. Mokytojai nuoširdžiai dirbo, kad akreditacija pavyktų sėkmingai ir mokykla taptų tokia, kokia buvusi prieš daugelį metų – garbingiausia Sūduvos krašto ugdymo įstaiga. 1992 m. mokyklai buvo sugrąžintas Rygiškių Jono vardas. 1996 m. gegužės 30 d. Lietuvos Respublikos Švietimo ir Mokslo ministerijos kolegijos nutarimu Marijampolės Jono Jablonskio vidurinei mokyklai buvo suteiktas gimnazijos statusas. Tą pačią dieną Marijampolės miesto tarybos nutarimu Jono Jablonskio vidurinė mokykla buvo pavadinta Marijampolės Rygiškių Jono gimnazija. 1997 m. brandos atestatus čia gavo pirmoji gimnazistų laida.