В октябре 1901 г. Алексей Парфенович занял должность секретаря Витебского губернского статистического комитета. Сразу же после назначения он занялся сбором и систематизацией данных об имеющихся на территории губернии памятниках старины (храмы, Борисовы камни, остатки замков и др.). Итогом этой работы стало вышедшее в 1903 г. сочинение «Памятники временен древнейших и новейших в Витебской губернии» – едва ли не первое серьезное издание, привлекшее внимание общественности к проблеме сохранения исторического наследия Витебщины.
Также Сапуновым были составлены подробные справочники «Список населенных мест Витебской губернии» (1906 г.) и «Землевладение и землевладельцы Витебской губернии на 1905 г.» (1907 г.), которые и сегодня являются ценнейшими источниками по истории региона.
Новый крутой поворот в жизни историка произошел в 1907 г., когда Алексей Парфенович был избран в Государственную думу третьего созыва одним из шести депутатов от Витебской губернии. По тогдашним законам лица, занимающие на гражданской государственной службе должность с определенным окладом содержания, в случае избрания их в Думу обязаны были оставить занимаемую должность. Поэтому Сапунов написал прошение об увольнении с должности секретаря статкомитета и переехал в Санкт-Петербург.
К своим новым обязанностям он отнесся с большой ответственностью, хотя до этого всерьез не занимался политикой. На тот момент Сапунов по своим убеждениям был монархистом, поэтому в Думе примкнул к так называемому «Союзу 17 октября» – политической партии, представлявшей правое крыло российского либерализма (ее члены придерживались умеренных конституционно-монархических взглядов).
За время своего депутатства он пять раз выступал на заседаниях Думы. Сапунова главным образом интересовали проблемы землевладения и введения земств в западных губерниях империи. В то же время он находил нужным поднимать вопрос об особом статусе белорусского народа. Так, в одной из своих думских речей историк отметил, что неформальный термин «Северо-Западный край», которым в те времена употреблялся в отношении Виленской, Витебской, Гродненской, Ковенской, Минской и Могилевской губерний, правильнее было бы заменить на «Белорусский край», поскольку эта земля является «плодом гения белорусского народа».
Также Сапунов особо подчеркивал, что «белорусское племя» – это не только православные белорусы, но и католики, которых не стоит записывать в поляки, поскольку это является «этнографическим грабежом». Его глубоко заботило «ополячивание» жителей белорусских губерний, что нашло свое отражение в резкой критике «полонизации». Алексей Парфенович с горечью отмечал, что, в то время как даже за самыми «незначительными народностями» признается право на самоопределение, «только народность белорусская не смеет и думать об этом». Это были довольно смелые слова из уст чиновника. При этом было бы ошибкой говорить о Сапунове как о деятеле белорусского движения, по своим взглядам он стоял на позициях западнорусизма. О создании независимого белорусского государства он и не помышлял, лелея лишь мечту о культурной автономии.
Депутатские полномочия Сапунова завершались в июле 1912 г., однако из-за пошатнувшегося здоровья он вернулся в Витебск раньше – в мае.