Веркяй - це колишній маєток єпископів Вільнюса, з резиденцією типу villa rustica (сільська вілла) поруч з господарськими будівлями. Сьогодні це мальовниче, віддалене передмістя Вільнюса.

Маєток Веркяй був подарований у 1387 році Владиславом Ягайлом єпископам Вільнюса як їхній дар. Від самого початку вони розглядалися як господарська база, на якій було зведено дерев'яний панський будинок, що слугував місцем відпочинку. Цю функцію він виконував особливо за єпископа Євстахія Волловича, який перетворив його на ексклюзивну заміську віллу, розташовану на високих берегах річки Неріс, а також за Костянтина Казимира Бжостовського, який до 1700 р. звів у Веркяї невеликий цегляний палац у формі замку.

У 1779 році за згодою сейму єпископ Ігнацій Масальський перебрав Веркяй, передавши натомість родинний маєток Червоний Двір біля Немунаса віленському єпископу. У Веркяї єпископ планував створити маєток для герцога Карла Йозефа де Лінге (1759-1792), чоловіка своєї племінниці Гелени Аполонії (1763-1815). Будучи добре освіченою і заможною людиною, він хотів не тільки зрівнятися з найкращими представниками тогочасної політичної і соціальної еліти, але й забезпечити родині постійне місце в республіці.

Приступаючи до реалізації проекту, Ігнацій Масальський вирішив звести резиденцію на високому пагорбі, звідки відкривався б далекий вид на річку і місто, в лісистій місцевості. Будівництво розпочав Марцін Кнакфус (1740-1821), але у 1780 році його продовжив Вавжинець Гуцевич (1753-1798), який різко розкритикував роботу свого попередника і вчителя. Це був час, коли 27-річний архітектор повернувся з навчання в Парижі, захоплений тамтешніми рішеннями.

До 1794 року Вавжинець Гуцевич завершив весь грандіозний ансамбль, який складався з палацу і двох окремо розташованих флігелів, а також численних господарських будівель (стайні і каретні, нижній млин, будівля водогону, адміністративний будинок і будинки для прислуги). Будівлі з їх приглушеними, суворими класицистичними формами разом з вільною парковою композицією утворювали ансамбль високого мистецького рівня. Парк, що оточував будівлі, був також пов'язаний зі стежками Вільнюської Кальварії, заснованої у 1662 році єпископом Єжи Бялозором.

Найбільш репрезентативною спорудою був, звичайно, сам двоповерховий палац з виступаючим центральним ризалітом і шестиколонним іонічним портиком з тимпаном і двома бічними портиками. Центральна частина палацу з боку саду була увінчана куполом. Тут знаходилася велика бальна зала, яка також використовувалася для театральних вистав. Палац був прикрашений скульптурами, що зображували, зокрема, сільську працю. На головному тимпані був зображений зразок громадянської чесноти - римський сенатор Цинциннат, який орав поля волами. Це так характерно, бо єпископ Ігнацій Масальський був суперечливою і неоднозначною постаттю. Пов'язаний з Комісією національної освіти, виснажений, звинувачений у державній зраді, він був повішений на Староміській площі у Варшаві під час повстання Костюшка. Його сім'я та прихильники були відкинуті в політичне небуття, що також було пов'язано з падінням Веркяйського сейму. Вже у 1788 році чоловіка покинула Гелена Аполонія де Лінге, яка вийшла заміж за Вінцента Потоцького (1749-1825).

У 1840 році резиденцію придбав Людвіг Сайн-Вітгенштейн (1799-1866). За його дорученням швейцарський архітектор Бернард Сімон у 1845 році розібрав палац, а з отриманого таким чином матеріалу розширив східний флігель, добудувавши один зал і вежу, а також чавунну оранжерею. Ця будівля стала власне палацом Вітгенштейна.