В 1842 году в Петербурге был образован эстонский приход, названный в честь апостола Иоанна, а в 1844 году была основана школа прихода Святого Иоанна, имевшая чрезвычайно важное значение с точки зрения сохранения национального самосознания, поскольку у эстонских детей появилась возможность изучать родной язык.
В 1858 году Приход Яановой Церкви и Департамент духовных дел иностранных исповеданий Министерства внутренних дел Российской Империи провели конкурс на лучший строительный проект. Здание церкви спроектировали Карл Циглер фон Шафгаузен и Гаральд Юлиус Боссе. Чтобы собрать необходимую сумму для возведения церкви, по всей Эстонии был организован сбор пожертвований, свою лепту внесла и Российская Империя. Приход приобрел земельный участок на Неве, на небольшом островке между Крюковым Каналом, Мойкой и Фонтанкой.
27 ноября 1860 года состоялось торжественное освящение новой эстонской церкви.
Церковь в стиле неоромантизма венчала башня в 18 саженей с позолоченным крестом, солидная парадная лестница, алтарь, кафедра, хоры, орган и два больших позолоченных паникадила. В храме было 800 посадочных мест, а в целом она вмещала 2000 человек.
Рядом с церковью располагался приходской дом, в котором размещались квартиры пастора, помощника учителя и кистера, в том же доме располагалась эстонская школа и сиротский приют.
В 1880-1900 годы пастором в приходе служил известный эстонский общественный деятель, лингвист и фольклорист Якоб Хурт.
1930 год стал поворотным моментом в истории храма, когда по распоряжению Ленсовета богослужения были запрещены, церковное имущество было отчуждено, сама церковь была закрыта.
В 1970-х годах здание уже пустовало и начало разрушаться, пока в 1996 году к губернатору Петербурга не обратились с письменной просьбой вернуть церковь и причисляющиеся ей постройки. После того, как здание церкви было передано приходу в безвозмездное пользование, начались акции по сбору средств, а уже в 2008 году был подготовлен проект по восстановлению храма. 20 февраля 2011 года состоялось открытие восстановленной церкви Св. Иоанна в Санкт-Петербурге.