Więzienie NKWD w Tarnopolu mieściło się przy ul. Adama Mickiewicza. Przetrzymywano tu bardzo wielu Polaków, członków różnych organizacji konspiracyjnych, m.in. grupę harcerzy tworzących tajną komórkę Związku Walki Zbrojnej, znaną pod nazwą „Młody Las” (ich proces odbył się w 1940 r., ale niektóre wyroki wykonano dopiero w 1941). 

Na wieść o ataku III Rzeszy na ZSRR 22.06.1941 r., NKWD przeprowadziło likwidację i ewakuację więzienia. Najpierw 22.06.1941 r. wzmożono falę aresztowań, w wyniku której w więzieniu znalazło się prawie 1800 osób. Następnie przez kilka nocy w więzieniu systematycznie rozstrzeliwano aresztowanych. 1.07.1941 r. ewakuowano z Tarnopola kolumnę około 1000 więźniów. Nie jest znany ich los.

Następnego dnia po zajęciu Tarnopola przez Niemców otwarto więzienie NKWD. Znaleziono tam ogromną ilość zwłok - ich liczba dochodziła do tysiąca. Szacuje się, że wśród ofiar było ok. 200 Polaków. Ofiary NKWD znalezione w gmachu i na dziedzińcu więzienia pochowano we wspólnym grobie na cmentarzu. Na mogile Ukraińcy usypali kurhan i ustawili na nim krzyż z tryzubem. W oznakowaniu tego grobu zabrakło informacji, że mogiła kryje również szczątki Polaków.

Kurhan ten został zniszczony w 1944 r., gdy wojska sowieckie zdobyły Tarnopol - wtedy Sowieci buldożerami rozjechali mogiłę. 31.07.1989 r. na mogile poświęcono ponownie usypany kurhan. Nadal nie ma na nim wzmianki o polskich ofiarach. Jest to duży kopiec porośnięty trawą, zwieńczony wysokim krzyżem; trochę poniżej krzyża znajduje się figura Matki Bożej, a u podnóża kopca umieszczono na podmurówce tablice z ustalonymi nazwiskami ofiar (również ofiar polskiej narodowości), napisy na tablicach są wyłącznie w języku ukraińskim. Na wyłożonym kostką placyku przed kopcem znajduje się kilka ziemnych mogił z metalowymi krzyżami bez inskrypcji. Na kopcu również umieszczono kilka niewielkich metalowych krzyży. Przy tablicach z nazwiskami ofiar umieszczono inskrypcję: „Ofiarom stalinowskich represji 1939-1941”.