Пре самог подизања храма Светог Марка, по сведочењу савременика, на том месту је био постављен Крст и сеница-шатор где је обављена Света Литургија или литије на Палилули.
Сретен Поповић, Београђанин, забележио је седамдесетих година 19. века „да су ту биле неке рушевине, и за њих би се говорило и причало, да је ту била стара црква, која је на сву прилику посвећена била Светом Марку“. Исти писац помиње брежуљак – могилу, на којем је 1830. године прочитан хатишериф.
Стара Маркова црква била је правоугаона грађевина чија је спољна површина била 11,5/21 метар, а унутрашњи корисни простор 7,75/17,46 метара. Истовремено је кнез Милош Обреновић саградио у Топчидеру дворску цркву Светих Апостола Петра и Павла (довршена 1834. године).
Радовима на оба храма руководио је Хаџи-Никола Живковић из Водена (1792-1870), први велики градитељ у обновљеној Србији и његови мајстори Јања и Никола.