Светлые и нарядные строения являются украшением парка и частью его истории. В том месте, где сейчас аллея источников, текла средь болотистых берегов речка Кислуша. Речку заключили в трубу, берега осушили, проложили пешеходную аллею и построили (с 1908 по 1912 г.) по проекту архитектора Н.Н. Семенова летние бюветы для питья воды источника № 4. Здесь, у подножия Щелочной горки, до наших дней сохранились бюветы 1, 3 и 4, постройки того времени.

Бювет 2 был выстроен с противоположной стороны аллеи в виде открытой галереи с колоннами. В 1936 г. между колоннами возвели стены, в проемы вставили большие застекленные рамы. На месте этого павильона в 1967 г. соорудили питьевую галерею источника №4.

Все эти нарядные летнего типа павильоны и питьевые галереи - памятники архитектуры малых форм.