Pastatas iki 1981 m. stovėjo J. Basanavičiaus aikštėje, toje vietoje kur dabar paminklas „Tautai ir kalbai“.
Bartlingio vaistinė – pastatas-legenda, kuris nors ir ištrintas nuo žemės paviršiaus, tačiau vis dar gyvas marijampoliečių širdyse ir atkakliai saugo provizoriaus Vlado Bartlingio (1875–1936) atminimą. Kada tiksliai šiaurinėje Turgaus (J. Basanavičiaus) aikštės dalyje išaugo mūrinis, dviaukštis pastatas tiksliai nežinoma. Nors kai kurie šaltiniai nurodo 1880 m. datą, tačiau istorikai ir kraštotyrininkai apdairiai teigia, kad tai įvyko XIX a. pabaigoje. Pastato architektas taip pat nežinomas, tačiau labai tikėtina, kad projekto autorius Marijampolės apskrities inžinierius V. Rybarskis, kuris projektavo daugumą to meto mūrinių pastatų.
Pirmasis šeimininkas Viktoras Šabunevičius pirmąjį namo aukštą išnuomodavo vaistininkams, o antrajame aukšte retkarčiais apsistodavo Šabunevičių šeima. Tačiau pastatą XIX a. pabaigoje iš V. Šabunevičiaus nupirko vaistininkas J. Buksickis, kurį 1911 m. pardavė provizoriui V. Bartlingui. Pirmame aukšte buvo vaistinė, o antrame aukšte V. Bartlingo 5 kambarių šeimos butas.
J. Basanavičiaus aikštėje XX a. pradžioje (tuomet Turgaus aikštė), vykstant turgui, žmonės pasitikėdami V. Bartlingiu dėl vaistų ir ligos diagnozavimo kreipdavosi ne į gydytoją, bet į vaistininką, kadangi jis buvo provizorius, vaistininkas, chemijos ir farmacijos laborantas, tad puikiai išmanė įvarius gydymo būdus. Iš tų senųjų laikų mūsų senoliai dar dabar pamena keistus vaistų pavadinimus: pilvo lašai, meškos taukai ar velnio kraujas. Istorikas R. Urbonavičius pasakoja kuriozinę situaciją iš V. Bartlingio vaistinės: „Užėjo moteriškė į vaistinę, paprašė velnio kraujo ir vaistininkas iš didelės talpos indo pila į mažą buteliuką tuos vaistus. Na moteriškė žiūrėdama į tuos pilamus vaistus klausia – Ar šviežias? – vaistininkas atsako, – Šiąnakt papjoviau.“ V. Bartlingas noriai padėdavo žmonėms medicininiais klausimais, todėl Marijampolėje buvo užsitarnavęs žmonių pasitikėjimą ir pagarbą, dėl to ilgainiui šiam vaistinės pastatui prigijo V. Bartlingo vardas.
Sovietmečiu namas buvo nacionalizuotas. Pirmajame aukšte veikė vaistinė, antrajame pamažu kūrėsi Kapsuko centrinė biblioteka (Marijampolės Petro Kriaučiūno viešoji biblioteka), kuri 1963 m., išsikėlus vaistinei, užėmė abu pastato aukštus. Visgi, 1981 m. miesto simboliu tapęs pastatas buvo nugriautas. Tačiau vyresniosios kartos marijampoliečiai tiek pastatą, tiek V. Bartlingį prisimena iki šiol.