Duży cmentarz wojenny pod Kostiuchnówką został założony po krwawej bitwie rozegranej 6 listopada 1915 r., gdy legioniści polscy odbili z rąk rosyjskich wzgórze Cegielnia, nazwane później Polską Górą. Część legionistów – 42 poległych – zostało pochowanych na drugim cmentarzu, usytuowanym na Polskiej Górze. Po bitwie teren ten został otoczony drutem kolczastym, postawiono na nim drewniany krzyż z napisem. Nekropolia ta, jak i pozostałe miejsca pochówku legionistów polskich w tym rejonie, została zniszczona w okresie komunistycznym.

W 1998 r. harcerze z Chorągwi ZHP w Zgierzu rozpoczęli odbudowę tego cmentarza, prace ukończono w 2002 r. W kolejnych latach cmentarz był pod stałą opieką harcerzy. Od 2017 r. opiekę tę finansuje Ministerstwo Kultury i Dziedzictwa Narodowego w ramach Programu Ministra „Miejsca Pamięci Narodowej za Granicą”.