W styczniu i lutym 1942 r. miało miejsce przesunięcie Polskich Sił Zbrojnych w ZSRR (Armii gen. Andersa) z Rosyjskiej Federacyjnej Socjalistycznej Republiki Radzieckiej do republik środkowoazjatyckich. W ówczesnym obwodzie nawojskim ulokowano jednostki 7 Dywizji Piechoty. W Karmana mieścił się szpital epidemiczny nr 2 oraz szpital sowiecki nr 4460.
Wielu żołnierzy 7 Dywizji Piechoty i cywilnych Polaków zmarło na skutek epidemii tyfusu, a także ogólnego wycieńczenia organizmu. Wśród tych, którzy spoczęli na cmentarzu Karmana-Stacja, większość zmarła w szpitalu epidemicznym nr 2. Chowano ich na wydzielonym do tego celu terenie otoczonym wałem ziemnym.
Wizyta pracowników Rady Ochrony Pamięci Walk i Męczeństwa w 1999 r. zaowocowała odnalezieniem wyraźnych śladów polskiej kwatery wojskowej w pobliżu stacji kolejowej, obok torów, na dawnym cmentarzu prawosławnym. Regularne rzędy ziemnych mogił, ich układ i położenie względem linii kolejowej były zgodne z archiwalną mapą. Dokładne zlokalizowanie miejsc spoczynku poszczególnych żołnierzy i wyodrębnienie grobów nie było jednak możliwe.
Zakres prac rekonstrukcyjnych w 2001 r. obejmował otoczenie cmentarza o powierzchni 1510 m2 niskim kamiennym murkiem, postawienie pomnika w miejscu, gdzie w czasie wojny stał element centralny, odtworzenie i obmurowanie rzędów mogił oraz ułożenie płyt nagrobnych z reliefem krzyża i zestawionymi alfabetycznie nazwiskami pochowanych żołnierzy na początku każdego rzędu, od strony dojścia do pomnika.
Obecny pomnik centralny to słup milowy o charakterystycznym, prostopadłościennym kształcie, jednolitym dla wszystkich odbudowanych cmentarzy w Azji Centralnej, zwieńczony płaskorzeźbą orła. Jego forma odnosi się do żołnierskiej tułaczki. Na pomniku wyryty jest tekst: Tu spoczywają / Polacy / 444 żołnierzy / Armii Polskiej / na Wschodzie / gen. Wł. Andersa/ i osoby cywilne / byli jeńcy / więźniowie / sowieckich łagrów / zmarli w 1942r. / w drodze do ojczyzny /Cześć ich pamięci/.
W 2014 r. Rada OPWiM dokonała wymiany tablic z nazwiskami w celu ich uczytelnienia. Przy tej okazji przeprowadzono korektę inskrypcji, zaś na dodatkowych tablicach umieszczono ustalone wówczas nazwiska osób cywilnych spoczywających na tym cmentarzu. Na tablicach obecnie jest upamiętnionych 443 żołnierzy i 267 osób cywilnych.
Po likwidacji Rady OPWiM opiekę nad cmentarzem finansuje Ministerstwo Kultury i Dziedzictwa Narodowego. W 2017 r. MKiDN dokonało wymiany tabliczek przy wejściu na cmentarz, informujących o instytucji sprawującej nad nim opiekę (dwie tablice - w języku polskim i uzbeckim).
Ministerstwo prowadzi prace badawcze w celu ustalenia spisu osób cywilnych pochowanych na cmentarzach w Azji Środkowej. Pozyskanie nowych źródeł pozwoli na ponowne zweryfikowanie list pochowanych. Ma to duże znaczenie w przypadku dwóch cmentarzy w miejscowości Karmana, gdyż w dostępnej dokumentacji występują rozbieżności w kwestii lokalizacji niektórych pochówków.

Opracowała R. Piątek / MKiDN, X 2025