XVIII a. Rimkuose įsikūrė sentikiai. Tuomet kaimas priklausė Vilniaus vaivadijai. Tai buvo vienas seniausių rusų centrų Lietuvoje iki pat 1795 metų. Cerkvė minima nuo XVIII a. pabaigos. XIX a. kaimas buvo Kauno apskrityje. 1806-aisiais gyventojai išsipirko žemę ir tapo laisvais žemdirbiais, čia gyveno apie 300 žmonių. XIX a., nuslopinus Degučių parapiją, Rimkai tapo sentikių centru Kauno gubernijoje. XX a. pradžioje parapijai priklausė bent 1000 tikinčiųjų, nors Rimkuose gyveno 415 žmonių.

Apie 1900-uosius pastatyta nauja mūrinė Rimkų Dievo Motinos Gimimo cerkvė. XX a. tarpukariu parapija buvo viena didžiausių Lietuvoje, 1937 m. ją lankė 2140 tikinčiųjų. Parapiją sovietų valdžia įregistravo 1948 m. liepą. 1994–1997 m. cerkvė buvo suremontuota.