W 1900 r. ukończył Korpus Kadetów w Pskowie, a następnie szkołę wojskową w Petersburgu. Brał udział w wojnie japońsko-rosyjskiej, a potem w I wojnie światowej. Od listopada 1918 r. w polskim wojsku, w 1928 r. został awansowany na generała dywizji. 23 marca 1939 r. wyznaczono go na stanowisko dowódcy Armii „Łódź”.
Na początku września przebywał w kwaterze głównej w Łodzi, w pałacu Heinzla w Julianowie, który 6 września został zbombardowany. Generał został ranny i wyjechał do Mszczonowa, nie pozostawiając na miejscu żadnych oficerów sztabu i nie podając informacji o nowym miejscu postoju. 8 września Rómmel pojawił się w Warszawie i jako najstarszy rangą oficer w oblężonym mieście został dowódcą Armii „Warszawa”. Często zarzuca mu się dowódczą bierność i brak zgody na uderzenie dywizji, by pomóc wycofującej się Armii „Poznań”.
W Warszawie, po wyczerpaniu się środków walki, skapitulował i trafił do niewoli w Oflagu VIIA Murnau, gdzie dotrwał do końca wojny. W maju 1945 r. przebywał krótko we Francji, gdzie ponoć spodziewał się, że gen. Anders przekaże mu swoje stanowisko. W czerwcu 1945 r. Rómmel powrócił do Polski i został uroczyście przyjęty przez Bolesława Bieruta do służby w LWP jako doradca marszałka M. Roli-Żymierskiego. W 1947 r. przeszedł w stan spoczynku i zamieszkał w Warszawie, gdzie zmarł 3 września 1967 r.