Cmentarz w tej miejscowości powstał 7.07.1944 r., kiedy to zaczęto znosić pod kościół rannych i zabitych podczas operacji "Ostra Brama" żołnierzy Armii Krajowej. Nekropolię założono na pagórkowatym, porośniętym gęstym lasem terenie. Z czasem wokół grobów żołnierskich zaczęły pojawiać się pochówki cywilne.
Kwatera żołnierzy AK dawniej zajmowała znacznie większy obszar, czego pozostałością jest pojedynczy grób żołnierza Stanisława Michałowicza, usytuowany na lewo od obecnej kwatery, tuż przy głównej alei cmentarnej. Obecnie kwatera składa się z 6 grobów pojedynczych i mogiły zbiorowej. W grobach pojedynczych spoczywają: Henryk Iwaszkiewicz, Leonard Siemaszko, Romuald Chrzczanowicz, Czesław Hoppen, Zdzisław Bułak i Władysław Wojciulewicz. Na mogile zbiorowej ustawiono pomnik w formie pionowej płyty. Główna inskrypcja głosi: "ŻOŁNIERZOM I i III Zgrupowania AK poległym w operacji "Ostra Brama" w lipcu 1944 R. III Brygady "Szczerbca" VIII Brygady "Tura" I. III. V Bat. 77 pp. O. R. K. O. "Groma". CZEŚĆ ICH PAMIĘCI". Na samym dole tej tablicy umieszczono napis w języku litewskim: "Čia ilsisi AK Kapiai Zuve, 1944 metais". Po obu stronach inskrypcji głównej wyryto nazwiska i pseudonimy 53 żołnierzy.
Ponadto różne źródła podają nazwiska jeszcze 61 żołnierzy pochowanych w Kolonii Wileńskiej, którzy nie zostali upamiętnieni na powyższym pomniku.