Одни поговаривают, что на этом месте был священный источник, и пока будет вода в нем, до тех пор и будет стоять Киев. Вторые – что старший сын Самсона плыл однажды по Днепру, и как только вышел из воды на берег – увидел льва. Схватив его за пасть и наступив на него, вместе с ним окаменел. Так и остался навсегда в Києве. 
По более реалистичным данным, на месте фонтана, со времен Киевской Руси, соорудили резервуар с водой. Позже накрыли беседкой, а внутри установили деревянную скульптуру ангела с чашей в руках, из которой вытекала вода. Приблизительно в 1808 году, ангела заменили на фигуру Самсона, который раздирал пасть льву.
Во время сильнейшего подольского пожара 1811 года фонтан не пострадал, но очень почернел от сажи. Нередко гости города возмущались: «Тю!.. Опять кияне дурят честный народ! Казали, що хлопец и лев золотые, а тут якийсь арап с чумазым котом!»

Фонтан так же очень полюбили заключенные, воры, и бандиты. Воровская молва гласит, что будто между киевским острогом и фонтаном существует необъяснимая связь: тот, кто вышел из тюрьмы, должен прямиком идти к фонтану и трижды пройтись вокруг него. И тогда не будет возврата в острог. Киевские жулики собирались здесь перед «серьезным делом». А юные беспризорники, ныряющие в фонтан за монетками – были своего рода развлечением для праздной публики.

В 1934 году по нелепой случайности фонтан убрали. Пред очередным праздником подольский начальник, проводив осмотр территории, увидел кучу мусора, и, махнув в сторону фонтана воскликнул: «Немедленно убрать!». Фонтан убрали и восстановили только в 1982 году.