W styczniu i lutym 1942 r. miało miejsce przesunięcie Polskich Sił Zbrojnych w ZSRR (Armii gen. Andersa) z Rosyjskiej Federacyjnej Socjalistycznej Republiki Radzieckiej do republik środkowoazjatyckich. W ówczesnym obwodzie nawojskim ulokowano jednostki 7 Dywizji Piechoty. W Karmana mieścił się szpital epidemiczny nr 2 oraz szpital sowiecki nr 4460.
Wielu żołnierzy 7 Dywizji Piechoty i cywilnych Polaków zmarło na skutek epidemii tyfusu, a także ogólnego wycieńczenia organizmu. Wśród tych, którzy spoczęli na cmentarzu Karmana-Miasto, większość zmarła w szpitalu sowieckim nr 4460. Chowano ich początkowo obok cmentarza uzbeckiego, wkrótce jednak wydzielono osobny, otoczony wałem ziemnym teren z bramą wejściową. Płk dypl. Leopold Okulicki, obejmując 21 kwietnia 1942 r. dowództwo dywizji, odsłonił na tym cmentarzu pomnik, zaprojektowany i wykonany przez żołnierzy.
W 1994 r. miała miejsce wizyta w Uzbekistanie polskiej delegacji, która w trakcie odwiedzin cmentarza znajdującego się na terenie miasta Karmana ustaliła, że zachował się on tylko w niewielkiej części. W dwóch przeciwległych rogach działki o rozmiarach ok. 10 x 15 m pozostały fragmenty trzech nagrobków – tablica, leżąca prawie w obszarze obecnej drogi, o treści: „Ewa Kruszyńska / z Wiśniewskich/ 1910-6.V.1942 / Cześć jej świetlanej pamięci / Pod Twoja obronę uciekamy się/ Święta Boża Rodzicielko”, kamień nagrobny z trudnym do odczytania tekstem: „sap. inż. Orłowski / Witold / 1903 27 II 1942 / córka”, a także wspomniany pomnik z 1942 r. z wyrytym orłem i napisem: „Niech nikt nad grobem / tym nie płacze / Niech nikt nie szlocha / skargi słowem / Uwięzion tylko proch / tułaczy / Duch tworzy z nami / Polskę nową”.
Po wizycie polskiej delegacji, zachowane trzy nagrobki zostały częściowo wyremontowane przez lokalne władze, przy obelisku złożono zaś szczątki ekshumowane w zabudowanych fragmentach cmentarza. Działka nie została jednak ogrodzona.
W ramach prac, przeprowadzonych w 2001 roku przez Radę Ochrony Pamięci Walk i Męczeństwa, kwaterę o powierzchni 120 m2 wydzielono ogrodzeniem ze stalowych prętów i elementów kamiennych. W głębi stanął nowy pomnik centralny - słup milowy o charakterystycznym, prostopadłościennym kształcie, jednolitym dla wszystkich odbudowanych cmentarzy w Azji Centralnej, zwieńczony płaskorzeźbą orła. Jego forma odnosi się do żołnierskiej tułaczki. Na pomniku wyryty jest tekst: Tu spoczywają / Polacy / 207 żołnierzy / Armii Polskiej / na Wschodzie / gen. Wł. Andersa/ i osoby cywilne / byli jeńcy / więźniowie / sowieckich łagrów / zmarli w 1942r. / w drodze do ojczyzny /Cześć ich pamięci. Po obu jego stronach posadowiono tablice z 207 nazwiskami zmarłych żołnierzy. Na utworzonych symbolicznych rzędach mogił położone zostały płyty nagrobne z reliefem krzyża. Odnowiono dwa oryginalne nagrobki i zachowany pomnik z 1942 r.
W 2014 r. Rada OPWiM dokonała wymiany tablic z nazwiskami w celu ich uczytelnienia. Przy tej okazji wykonana została korekta inskrypcji. Obecnie upamiętnionych jest tu 210 żołnierzy oraz 56 osób cywilnych, których nazwiska ustalono na podstawie dokumentacji Archiwum i Muzeum im. Gen. Sikorskiego w Londynie.
Po likwidacji Rady OPWiM opiekę nad cmentarzem finansuje Ministerstwo Kultury i Dziedzictwa Narodowego. W 2017 r. MKiDN dokonało wymiany tabliczek przy wejściu na cmentarz, informujących o instytucji sprawującej nad nim opiekę (dwie tablice - w języku polskim i uzbeckim).
Ministerstwo prowadzi prace badawcze w celu ustalenia spisu osób cywilnych pochowanych na cmentarzach w Azji Środkowej. Pozyskanie nowych źródeł archiwalnych pozwoli na ponowne zweryfikowanie list pochowanych. Ma to duże znaczenie w przypadku dwóch cmentarzy w miejscowości Karmana, gdyż w dostępnej dokumentacji występują rozbieżności w kwestii lokalizacji niektórych pochówków.

Opracowała R. Piątek / MKiDN, X 2025