У кав'ярні "У Рудницького", серед хмар цигаркового диму, дискутували письменники, професори Університету ім. Стефана Баторія та представники місцевого мистецтва і богеми, незалежно від національності. Серед гостей були художник-фотограф о. Пьотр Слєдзєвський, відомий віленський юрист Мацей Ямонт, журналіст і театральний критик Наполеон Руба, головний редактор віленського "Слова" Станіслав Кіт-Мацкевич, а також його брат, письменник Юзеф, і поет, видавець і літературний критик Вітольд Гулевич. Члени поетичної групи "Жагари", серед яких Чеслав Мілош, Теодор Буйницький та Єжи Путрамент, зустрічалися в "Маленькому чорному".

Пивниця знаходилася на вулиці Міцкевича, на розі з вулицею Арсенальною, на першому поверсі кам'яниці № 1. Колись цей номер був записаний як власність № 649. Ймовірно, будинок стояв тут у 16-17 ст., але на зламі 17-18 ст. був знесений і на його місці з'явилася велика корчма зі стайнею. Під час будівництва церкви Святого Юра, що стояла поруч, деякі будівлі були знесені. У 1877 році доктор Бурхардт, відомий лише на ім'я, придбав власність. Через шість років було завершено будівництво триповерхового житлового будинку з корчмою на першому поверсі. У 1901 році перший поверх будинку зайняла пивниця, що належала якомусь Воєвудському. Пізніше тут розмістився ресторан "Ведмідь". З вересня 1920 року тут працювало перше литовське кафе "Біруте", а наступного року його придбав Себастьян Рудницький і перейменував на кафе "У Рудницького". На той час він також володів ще одним, але вже менш відомим закладом, який розташовувався на першому поверсі будинку на розі вулиць Троцької та Вільнюської.

За прилавком "У Рудницького" завжди стояв трохи повнуватий і часто мовчазний власник. Інтер'єр кав'ярні був оформлений зі смаком. У своїй книзі "Iš kavinės į kavinę" ("Від кав'ярні до кав'ярні") литовський журналіст Раполас Маконіс, частий відвідувач віленських кав'ярень, так описує це колись відоме місце: "Увійшовши через скромні і вже сильно пошкоджені двері, ми йдемо направо. Зупинившись на мить, озираємося в пошуках вільного столика або хоча б стільця. Удача не завжди посміхалася. П-подібне приміщення гуділо, як бджолиний вулик, а під стелею стояло стільки диму, наче пара в російській лазні. Навколо було тільки й чути: < >, < >. Два офіціанти просто пірнали між щільно накритими столами".

Настав вересень 1939 року і почалася Друга світова війна. Місце все ще було улюбленим для інтелектуальних вершків Вільнюса. Про кав'ярню Рудницького згадував Чеслав Мілош, майбутній лауреат Нобелівської премії. Це було 15 червня 1940 року, він побачив у вікно кав'ярні радянські танки, що проїжджали повз собор, коли він сидів у "кав'ярні Рудницького навпроти собору, і раптом почувся гучний брязкіт заліза, в'їзд радянських танків. До сьогодні це для мене одна з найсумніших подій мого життя, бо я усвідомлював безповоротне і огидне відчуття, що є свідком того, як топчуть беззахисних, не зважаючи на жодні закони народів. Так виглядає досвід страждання".

Цей брязкіт заліза... Зі столів падали порцелянові чашки і блюдця. Радянізація країни прогресувала. У липні того ж року Мілош знову поїхав до Варшави. Чому не залишився у Вільнюсі? Там мене надто добре знали", - казав він пізніше. Вже після війни він напише "Пісню про порцеляну" про ті події, в якій крихкість порцеляни стане відображенням крихкості долі людей і цілих країн.

Щодня близько полудня тут збиралися журналісти та редактори міжвоєнних газет. Вони заходили до кав'ярні, щоб обговорити останні новини. Саме тоді будинок націоналізували.

У 1960 році приміщення перейменували на "Літературну кав'ярню". Традиція продовжилася - тут вирувало життя як на форумі письменників, художників, інтелектуалів. Тут також проводили конкурси читців для молоді. Сьогодні інтер'єри стоять пусткою.