Юзеф Гардецький народився у варшавському районі Воля в сім'ї водія таксі Юзефа та домогосподарки Валерії, уродженої Коритковської. Він ріс у скромній родині, а у віці 12 років розпочав художню освіту у Варшавській школі малювання на Театральній площі, де зав'язав довготривалу дружбу з художником Яном Рембовським. Після закінчення школи почав навчатися ремеслу олов'яника на Норблінській фабриці срібла і платини, яку закінчив як підмайстер бронзового і золотарського ремесла. Паралельно керував аматорським робітничим театром.

У 1901 році розпочав навчання в Краківській академії мистецтв, а в 1905 році одружився з Ядвігою Рудницькою. Після весільної церемонії подружжя відвідало брата Рудницької, ув'язненого за революційну діяльність у в'язниці Павяк. Гардецький допомагав робітничому руху за перегородками, переправляючи нелегальні видання Польської соціалістичної партії, які розповсюджував серед робітників і селян. У наступні роки він поїхав до Парижа, де в 1907-1909 роках брав уроки скульптури у Огюста Родена. З 1910 року він керував скульптурно-художньою студією у Варшаві, яка проіснувала до 1926 року, хоча на час Першої світової війни він виїхав до Швеції. Як до, так і після війни займався архітектурною діяльністю, працюючи, зокрема, над готелем "Європейський" та Старим театром у Кракові. З 1926 року присвятив себе переважно скульптурі та літературі. Дружив, зокрема, зі Стефанією Семполовською та Владиславом Татаркевичем.

Під час Варшавського повстання втратив увесь свій мистецький доробок, коли згоріла його квартира та майстерня у пожежі. Помер у 1952 році і був похований на Повонзькому кладовищі.