Cmentarz w Szydłowie to nie tylko miejsce pochówków, ale część sanktuarium maryjnego. W miejscu objawień - wokół kamienia, na którym pastuszkom dała się zobaczyć Maryja, wystawiono przed 1651 r. niewielką drewnianą świątynię. Wokół niej, blisko świętego miejsca zaczęto grzebać wiernych.

Cmentarz w Szydłowie leży na osi kościoła - sanktuarium Matki Boskiej, oddalonego na wschód o niecałe 500 m. Jego teren jest nieznacznie pofałdowany i niegdyś znajdował się poza granicami osady, a dziś jest otoczony zabudową mieszkalną.

Początki pochówków na tym obszarze sięgają pierwszej połowy XVII w., a więc czasów objawień i początkowych wyrazów czci składanych Maryi w Szydłowie. Formalną nekropolię założono wraz ze wzniesieniem drewnianej świątyni, konsekrowanej w 1651 r. Obudowała ona kamień, na którym objawiała się Bogurodzica plącząc, że w miejscowości nie ma kościoła. Ten pierwszy, zapewne niewielki cmentarz, pod koniec XVIII w. został znacznie powiększony (ostatecznie stara część zajmuje ok. 2,50 ha). Stało się to w momencie wystawienia nowego kościoła (1760-1786), bezpośrednio w miasteczku, bliżej rynku. Pierwsza świątynia stała się wówczas kaplicą jednocześnie objawień i cmentarną.

Ogromne zmiany w układzie cmentarza przyniosły lata 1912-1924, kiedy w miejscu drewnianego kościoła wystawiono monumentalną kaplicę projektu wybitnego, wileńskiego architekta Antoniego Wiwulskiego (1877-1919), wykształconego w Wiedniu i w Paryżu. Jest to jedno z nielicznych zachowanych dzieł tego nietuzinkowego twórcy, którego dziełem są m.in. Pomnik Grunwaldzki w Krakowie i Pomnik Trzech Krzyży w Wilnie. Mimo, że odebrał on klasyczne, akademickie wykształcenie, poszukiwał w architekturze i rzeźbie nowych rozwiązań opowiadając się za nowoczesnym wówczas stylem - modernizmem. Kaplica Wiwulskiego, podobnie jak wcześniejsze, łączy w sobie funkcję kaplicy cmentarnej i kaplicy sanktuarium, chroniącej miejsce objawienia. Oryginalny jest kształt budowli, bowiem w zasadzie jest to wieża - obelisk sięgająca 44 m wysokości, wyrastająca z kwadratu, którego bok mierzy ok. 10 m. Widoczna jest z bardzo daleka, tym bardziej że wymurowano ją w najwyższym punkcie cmentarza. W fasadzie budowli znajduje się arkadowy portyk, kryjący portal, a powyżej monumentalny krzyż, na tle którego umieszczono relief Matki Boskiej z Dzieciątkiem Jezus. W pozostałych elewacjach umieszczono ostrołukowe okna z witrażami. We wnętrzu kaplicy zwraca uwagę kamień objawień oraz marmurowa figura Matki Boskiej, którą z Londynu sprowadził proboszcz szydłowiecki Tadeusz Józef Bukaty (1740-1795), a jednocześnie sufragan żmudzki.

Po południowej stronie kaplicy w strome zbocze cmentarne jeszcze w latach 30. XIX w. wbudowano, a potem modernizowano niską kaplicę-katakumby układającą się zgodnie z kształtem wzniesienia. Jej elewację wyłożono polnymi kamieniami. Budowlę podzielono na części przynależące do różnych rodzin (m.in. do Strawińskich), a pomiędzy znajdują się pojedyncze katakumby zakryte tablicami epitafijnymi. Wejścia do kaplic rodzinnych ujmują neogotyckie portale. Tablice epitafijne mają natomiast napisy w języku polskim i litewskim. Na jednej z nich znajduje się napis: „CIENIOM / JERZEGO I TERESSY KON / TRYMOW RODZ(IC)OW GABRY = / ELA I URSZULI KONTRY= / MOWNY DZIECI ZMAR(ŁYCH) ŻA= / ŁOSNI ANNA Z KONTRY= / MOW KUSZEIEWSKA K:W:P: / WDOWA, WESPÓŁ Z BRATEM / LEONEM KONTRYMEM OBOZ=/ (NY)M TEN POMNIK POSWIĘCAJĄ / DLA WZBUDZENIA POBOŻNYCH / WESTCHNIEN PRZECHODNIA / R. 1833 SIERP: 12 DNIA”. Kolejna upamiętnia ks. Kasperowicza: „Ś. P. / KSIĄDZ KAPSER / KASPEROWICZ / UMARŁ 1876 R. M. / DECEM(BRA) 20 D. MAJĄ / CY WIEKU 77 LAT / PRZECHODNIU ZMU /WCI [!] PACIERZ”.

Na starej części nekropolii (do 1939 r., nowa część zajmuje cypel przylegający do niej od południowo-wschodniej strony), która ma kształt kwadratu, można odnaleźć nagrobki z początku XIX w. i późniejsze. Wiele z nich upamiętnia okolicznych ziemian: Billewiczów, Butkiewiczów, Dowkontów, Klimonttów, Kontrymów, Korewów, Strumiłłów, Wierzbickich i Zaleskich, a także Piłsudskich. Pomniki nagrobne stanowią przegląd najważniejszych form sepulkralnych z XIX - XX w. Najstarsze i najcenniejsze, bo klasycystyczne, reprezentują typ kapliczki. Są to murowane z cegły, otynkowane i nakryte daszkiem z dachówek struktury pionowe. Pokaźną liczbę stanowią także żeliwne krzyże na cokołach albo betonowych albo kamiennych. Zdążają się także stele wykonane z granitu.