Manoma, kad senoji Kapų gatvė buvo išlikusi Rožančkelio dalis. Dabar išlikusi Kapų gatvės šiaurinė dalis vadinama Kalkinės gatve.
1869 m. parengtame miesto reguliavimo projekte, taip pat 1884, 1903 m. planuose pavaizduota pietų kryptimi iš Bažnyčios gatvės išeinanti Kapų gatvė (Cmentarna ulica).
1928-12-20 Kapų gatvė, gyventojų prašymu, pavadinta Chmieliausko vardu.