Резиденція Костровицьких була розташована біля нині неіснуючої Субоцької брами, на пагорбі (121 метр над рівнем моря) з гарним видом на костел Святого Казимира. Палац був побудований до 1642 р. Що цікаво і рідко зустрічається у Вільнюсі, палац стояв не фасадом до вулиці, а "в бічному провулку" з площею - переддвір'ям, де знаходилися господарські будівлі, в тому числі кухня і стайня з каретним двором. Резиденцію збудували Олександр Юшкевич та його дружина Регіна, уроджена Дубович. 9 червня 1642 року вони заповідали муровану резиденцію Яну Костровицькому, який одружився з їхньою єдиною донькою Оленою.

Розташований на осі північ-південь, двоповерховий з підвалом палац мав форму чотирикутника з внутрішнім брукованим двориком, який асоціювався із замком. Цей ефект посилювався двома оглядовими майданчиками, які монументалізували будівлю. Перша з них знаходилася на вул. Субачяус, оскільки перед резиденцією, як уже згадувалося, був облаштований великий палісадник, який можна розгледіти і сьогодні. Друга точка спостереження була на колишній вулиці Августинській (вул. Шв. Казимира), за костелом св. Казимира, який розташований нижче палацу Костровицьких. Звідси увага, приділена художньому оформленню садового фасаду, прикрашеного гарним малюнком карнизів.

Незважаючи на яскраво виражену кривизну плану палацу, було зроблено спробу підкреслити головну вісь через браму і тамбур в північному крилі, що лежить майже навпроти, звідки можна було потрапити в сад. Інтер'єри палацу були одноарочними і частково склепінчастими в нижньому поверсі та перекриті стелями у верхньому поверсі. Зв'язок між поверхами забезпечували зовнішні дерев'яні галереї (деякі з них функціонують і сьогодні), розташовані у східному та південному крилах, а також сходи.

південному крилі, а також сходи: у західному крилі та допоміжна у північно-східній баштовій прибудові. У протилежному куті зі східного боку була друга прибудова башти, на другому поверсі якої знаходилася спальня. Сам надбрамний проїзд був перекритий хрестовим склепінням з люнетами і ліпниною, форма якої дозволяє припустити, що в палаці працювали митці, пов'язані з Люблінщиною. Позаду палацу на схилах пагорба був розбитий великий сад.

У руках Костровицьких гербу Стшала, які походили з уніатської купецької родини, що отримала шляхетський статус завдяки тому, що їхні представники займали посади в магістраті, резиденція перебувала щонайпізніше до 1689 року. Наступного року джерела згадують як власника Богуслава Олександра Унєховського (пом. 1697 р.), воєводу троцького. На початку 18 століття палац перейшов у власність Якуба зі Скшино Дуніна (1680-1730), коронного референдарія. У 1737 р. маєток описаний як такий, що належить вдові Гелені з Потоцьких (пом. 1762 р.).

Після родини Дуніних маєток перейшов до Яна Міхала з Довгого Соллогуба († 1748), литовського підскарбія, пов'язаного з Радзивіллами, а потім до його старшого сина Юзефа (1709-1781), каштеляна вітебського, а згодом воєводи вітебського. У цей час палац було відремонтовано, зокрема муляром Станіславом та теслею Андрієм. Кімнати на першому поверсі були багатше оздоблені, в тому числі кахлями з білих кахлів, деякі з яких були прикрашені квітами.

Наприкінці 18 століття палацом недовго керували Дочки Милосердя, які утримували неподалік шпиталь. Вже на початку 19 ст. палац перейшов у власність віленського бургомістра Вінцента Маліновського (пом. 1829 р.) та його дружини Богуміли, уродженої Куліковської. До 1808 р. до палацу прибудували будівлю на сусідній ділянці, а до 1865 р. палац розширили зі східного боку, включивши баштові прибудови в нове урочище. Частина саду також була відокремлена від ділянки. У 1840-х роках резиденцію описували як "повністю занепалу". Тим не менше, протягом наступних десятиліть проводилися постійні реставраційні роботи. Будівля і сьогодні використовується як житловий будинок.