Сучасна естонська назва міста походить від вапнякової скелі, на якій розташована вся північна Естонія. Перша історична назва міста "Вайсенштайн" також означала "світлий камінь" з німецької мови, подібно до назви, прийнятої в польській номенклатурі - Білий Камінь. Історія селища сягає 13 століття, коли на перехресті лівонських шляхів, що межували з територіями, які тоді перебували під владою Данії, була зведена найпівнічніша тевтонська фортеця. Перші кам'яні укріплення (включно з центральною могутньою вежею) були зведені у 1265 році з ініціативи національного магістра тевтонського лицарського ордену Конрада фон Мандерна. Спочатку замок функціонував у монастирській ієрархії як резиденція олдермена, а навколо фортеці виникло поселення, яке у 1291 році отримало міські права. Економічний розвиток центру та зростання його військового значення призвели до того, що на початку 14 століття замок був піднесений до рангу комтурії. Історичні джерела згадують Раймара Гана як першого воєначальника Вайсенштайну у 1314-1316 рр. Замок став свідком важливих подій під час естонського повстання в ніч на Святого Юрія навесні 1343 року. Саме тут відбулися переговори між чотирма лідерами повстання, делегованими старійшинами (пізніше названими "естонськими королями"), яких тевтонські лицарі таємно ув'язнили, а потім вбили. На початку 17 століття Білий Камінь двічі увійшов до польської історії як місце слави польської зброї. Це сталося під час Другої польсько-шведської війни. Вперше фортеця була захоплена польськими військами наприкінці вересня 1602 року. Облога тривала чотири місяці і стала останньою кампанією під командуванням великого коронного гетьмана Яна Замойського. Ще одна перемога під Білим Каменем відбулася 25 вересня 1604 року. Тоді польське 2-тисячне військо під командуванням королівського воєводи, польного гетьмана Яна Кароля Ходкевича зіткнулося з 7-тисячним шведським військом на чолі з Арвідом Стелармом та іспанським найманцем Алонсо Качо де Канута. Вирішальне значення для результату битви мала атака польських гусарів, яка розтрощила основні сили противника. Поляки втратили в битві менше 100 солдатів, тоді як шведи загинули близько 3 000. Однак польське панування тривало недовго, і вже через чотири роки замок був повернутий Швеції. Частково зруйнована, твердиня незабаром втратила своє військове значення, поступово занепадаючи в руїну. Статус міста також знизився, і воно втратило свої муніципальні права у 1636 році, повернувши їх лише у другій половині 18 століття.

Сучасне Пайде - провінційне містечко з населенням менше 8 000 мешканців, яке іноді називають "серцем Естонії" через його центральне розташування. Основні естонські агломерації знаходяться приблизно на однаковій відстані: Таллінн (90 км), Тарту (100 км) і Парнава (105 км). З цієї причини в певний період у 20 столітті на гербі міста з'явився символ серця. Сьогодні історичний герб міста з білою замковою вежею, яка залишається найхарактернішим елементом архітектури міста, повернуто. Видима здалеку восьмигранна будівля заввишки 30 м є найбільш вражаючим залишком середньовічної фортеці Ордену Мечоносців, що здіймається в повітря. Втім, це її точна реконструкція, зроблена в першій половині 1990-х років. Первісна будівля проіснувала майже сім століть, але була підірвана відступаючими радянськими військами у 1941 році. Сьогодні на п'яти рівнях всередині будівлі розміщена музейна експозиція, присвячена історії замку та міста (найвищий рівень слугує оглядовим майданчиком). Територія колишнього замку перетворена на прогулянковий парк з амфітеатром. Окрім головної вежі (яку зазвичай називають вежею "Довгий Герман"), зберігся оборонний план замку з чотирма бастіонами та кам'яними реліктами укріплень: пороховою вежею і водяною брамою (північно-східний кут), західною брамою (примикає до головної вежі), куртиною (з північно-західного боку) та незакритими фундаментами колишніх будівель (ймовірно, каплиці, капітули та трапезної). З півдня до замкового пагорба примикає парафіяльний костел Святого Хреста. Костел отримав свій кам'яний вигляд у 18 столітті, але був перебудований після пожежі 1845 року. У збереженому вигляді це однонавовий костел, поставлений на прямокутному плані з масивною вежею (увінчаною куполом зі шпилем), що примикає до південної стіни нави. В результаті реконструкції, проведеної на початку 20 століття, костел представляє неоготичний стиль. Поблизу знаходиться колишня ринкова площа (зараз засаджена деревами) з муніципальними будівлями, частково датованими 19 століттям. Південний фасад площі займає імпозантна двоповерхова будівля ратуші з фасадом в стилі модерн, побудована в 1920 році.