W narożniku cmentarza, tuż przy ulicy, znajduje się kwatera wojskowa. Pochowano tu żołnierzy polskich i litewskich - ofiary walk 1920 r. oraz żołnierzy Samoobrony Wileńskiej, poległych w końcu grudnia 1918 r. i w styczniu 1919 r. W latach 30. XX wieku przeprowadzane były ekshumacje i porządkowanie cmentarzy. Wtedy na "mały cmentarz polsko-litewski na Rossie" ekshumowano żołnierzy spoczywających dotychczas w następujących miejscowościach: Paszki, Czeronka, Ruczaj, Stary Pohost, Hermanowicze, Wasilkowo, Budy, Otradno, Sporuny, Bojary. Grobów tych żołnierzy (55 znanych z nazwiska i nieustalona liczba nieznanych) nie ma już na cmentarzu na Nowej Rossie - uległy zatarciu i po II wojnie światowej, gdy część kwatery została wykorzystana na pochówki cywilne. Dominantę kwatery na Nowej Rossie stanowi pomnik w kształcie masywnej kolumny, pierwotnie zwieńczonej rzeźbą orła. Jej trzon ozdobiony jest wypukłymi włóczniami. Nad ich grotami znajduje się napis: "WILNO SWOIM WYBAWCOM". Po prawej stronie kolumny są dwa rzędy mogił litewskich, po lewej - 3 rzędy mogił polskich oraz 1 mogiła osobno (w nieistniejącym już rzędzie). Mogił polskich jest obecnie 40 - 23 imienne i 17 bezimiennych. Remont kwatery został wykonany w latach 2018-2019 przez Fundację Wolność i Demokracja w ramach zadania dofinansowanego z programu Ministra Kultury i Dziedzictwa Narodowego „Miejsca Pamięci Narodowej za Granicą”. Z uwagi na znaczne zniszczenie materiału nagrobków wykonano ich repliki; pomnik poddano konserwacji.