На 3.5 км. източно от с. Гугутка общ. Ивайловград, на естествено защитен, труднодостъпен скалист връх се намира крепостта Бялград. Склоновете на върха се спускат стръмно към Бяла река, която го обгражда от две страни. Крепостните стени следват очертанията на билната заравненост и ограждат площ от 13 дка. Те са запазени почти изцяло в първоначалният им вид- имат дължина общо около 550 м. и височина до 7- 8 м., а дебелината им е 2 м. В източната част, където крепостта е сравнително по- достъпна, пред основната стена на разстояние 10- 15 м. е построена втора стена, която описва неправилен полукръг. Двойните стени- протохизма, са рядкост при източнородопските крепости. Подобно фортификационно решение е приложено още само в крепостта при с. Воденичарско общ. Джебел. И още една особеност- нивото на терена вътре в крепостта е по- високо от терена извън крепостните стени с 4- 5 м. Това е затруднявало тяхното подкопаване и разрушаване при обсада.
В източната част на Бялград са разкрити основите на еднокорабна едноабсидна черква, частично вкопана в земята. Тя има дължина 8 м., ширина 6 м., а дебелината на страните и е 1 м. Подът и е бил покрит с каменни квадратни плочи с еднакви размери.
Най- интересното съоръжение от тази крепост, което е стигнало до наши дни, е вътрешната феодална жилищна кула. Тя е от типа на така наречените донжони и е една от малкото сравнително добре запазени кули в България. Стените и се издигат на височина до 9 м., а дебелината им е 1.5 м. Тя има правоъгълен план с размери на основата 11 и 9 м. Била е на два етажа. Приземния етаж е преграден с носеща стена, като едното помещение е използвано за склад, а в другото е била монтирана дървена стълба, по която се е излизало на втория етаж. Запазени са гнездата на гредите, които са носели пода на втория етаж, използван като жилище.
Писмени сведения за Бялград в средновековните извори не са запазени. Особеностите на градежа и показват, че изграждането и в нейния сегашен вид трябва да се отнесе към края на 7 и началото на 8 век.
Липсата на пълни археологически разкопки създава трудности за определяне ролята на тази крепост през средновековието, но големите и размери и необичайната и съдба дават основание да се смята, че тя е била средищно селище от градски тип, в което е резидирал феодален господар със земи и села наоколо. Това се потвърждава косвено и от името и- Бялград или по- рядко Градището, докато другите крепости наоколо местното население нарича Калета.
Съдбата на Бялград след падането на България под османско владичество е наистина необичайна. Изграждането на феодалната жилищна кула през 15 век. (датировката и се основава на особеностите на градежа) показва, че крепостта не е била разрушена, а в нея вероятно се е настанил крупен османски феодален владетел, който исвършил преустройства и допълнителни укрепвания.