Постройка храма началась в 1814 г. по проекту архитектора, уроженца Арзамаса Михаила Коринфского — выдающегося мастера позднего классицизма, ученика знаменитого архитектора Андрея Воронихина. Строительство продолжалось 28 лет. На здание ушло 5,5 млн. штук кирпича (для чего около Тихвинского кладбища были построены кирпичные заводы), 1000 кубов бутового камня для фундамента и 164 тонны железа.

Здание имеет форму греческого креста, положенного на квадрат. Длина и ширина храма равны и имеют по 30 сажен (63 м 90 см), а высота до среднего креста — 22 сажен (46 м 86 см). Собор имеет пять куполов сферической формы, высокие фронтоны, украшенные живописью, четыре портика, опирающиеся в совокупности на 48 колонн. На фронтонах собора расположены большие фрески на библейские сюжеты: «Воскресение Христа» (восточный фронтон), «Явление Святой Троицы Аврааму» (южный), «Собор всех святых» (западный), «Покров Пресвятой Богородицы» (северный).

Отделочные работы и роспись длились 21 год. Собор был расписан учениками Арзамасской школы живописи Александра Васильевича Ступина Осипом Семеновичем Серебряковым и его сыном Александром. Величественные иконостасы резной работы выполнены братьями Василием и Климом Ломакиными. Все пять иконостасов обрамлены огромными деревянными колоннами с капителями, украшенными пилястрами с изящной резьбой. Алтарные врата главного престола украшены иконами Спасителя и Богоматери, которые изображены восседающими на царских тронах, в белых одеждах, с коронами на главах, работы профессора живописи Николая Алексеева (зятя А.В. Ступина), расписывавшего впоследствии Исаакиевский собор Санкт-Петербурга.