Белая беседка была открыта во время празднования 200-летия Полтавской битвы в 1909 году. Она была сооружена на том месте, где во время Полтавской битвы находился Подольский сторожевой бастион крепости. Крепость не имела каменных стен и была защищена только крутыми склонами холма, на котором она располагалась, земляными валами и частоколом.

На следующий день после Полтавской битвы, царь Петр I приказал вырыть две могилы: одну для погибших офицеров и одну - для солдат. В присутствии всех войск была отслужена панихида, а после похорон над могилой был насыпан большой холм. По легенде, Петр I собственноручно установил на его вершине деревянный крест с надписью: "Воины благочестивые, за благочестiе кровiю вънчавшiеся, лъта отъ воплощенiя Бога-Слова 1709, iюня 27 дня".

Крепость играла значительную роль в системе оборонных укреплений, созданной для защиты от многочисленных орд, вторгавшихся в пределы Украины. Она стояла на возвышении правого берега Ворсклы, и со всех сторон, кроме северно-западной, была окружена крутыми склонами, которые спускались в долину, в то время сильно заболоченную многочисленными притоками Ворсклы.

В 1999 году в Шведском Королевском Военном Архиве (г.Стокгольм) было обнаружена большая коллекция фотографий, сделанных летом 1911 года в Полтаве и Полтавской губернии. Часть этих фотографий посвящена раскопкам на поле Полтавской битвы.

Памятник на братской могиле русских воинов, погибших в Полтавской битве, был открыт 27 июня 1895 года в присутствии царя Александра III. Однако вскоре оказалось, что тяжелый гранитный крест, установленный на вершине могильного холма начал проседать. В 1906 году было принято решение открыть могилу русских воинов, укрепить фундамент мемориала и построить на нем могильный храм со сферическим сводом. Церковь была построена по проекту архитектора Носова.