Первый музей в Каргополе создал в 1919 году мещанин Капитон Колпаков. В экспозицию вошли предметы из его частного собрания — изделия из фарфора, картины, оружие, старинные рукописи.
Колпаков сотрудничал с городским отделом образования, коллекция музея росла и пополнялась. Первое время она находилась в его доме, а позже экспозицию перенесли — сначала в здание Крестовоздвиженской, а затем Введенской церкви.
В 20-е годы, когда национализировали церковное имущество, в музей попали многие ценности: книги, церковная утварь, старинные иконы. Дополнили выставку предметы быта зажиточных семей Каргополя. Позже музейный комплекс стал расширяться: в него вошли ансамбли сел Лядины, Саунино и Ошевска, дом мещанина Блохина и лесопромышленника Вагера.
Сегодня музей состоит из 15 объектов, 12 из них — архитектурные памятники федерального значения. Коллекция насчитывает около 42 тысяч предметов. Здесь хранятся народные костюмы и золотное шитье, расписанная деревянная посуда и старопечатные книги, церковные скульптуры и старинные иконы.