Алексей Парфенович Сапунов родился 15 (27) марта 1851 г. (по иным данным – 1852 г.) в местечке Усвяты, которое в то время входило в состав Сурожского уезда Витебской губернии (ныне поселок городского типа Псковской области Российской Федерации). Его родители – Парфен Данилович Сапунов и Наталья Трофимовна Козлова – были выходцами из крестьян, хотя с годами предприимчивый отец Алексея сумел выбиться в купцы, сначала организовав маленькую кожевенную мастерскую, а после и расширив дело. Тем не менее, большим достатком семья не отличалась.
Парфен Данилович, всю жизнь сетовавший на пробелы в собственном образовании, мечтал выучить своих детей. О его старшем сыне Иване, трагически погибшем на Кавказе, и дочерях Агафье и Феодоре практически нет достоверных сведений, однако известно, что средний сын – Алексей и младший – Петр получили университетское образование.
В 1862 г. Парфен Сапунов определил Алексея, окончившего к этому времени уездное училище, в Витебскую Александровскую мужскую гимназию. В одном из сохранившихся писем отец, опасавшийся влияния на сына бурной городской среды, просил его прилежно учиться и вести себя скромно. И, к чести мальчика, он старался не огорчать отца, хотя особыми успехами не отличался. В то время в гимназии учились семь лет. Когда Алексей был в шестом классе, Парфен Данилович умер и финансовое положение Сапуновых резко ухудшилось. Дошло до того, что из-за невозможности оплачивать учебу юношу хотели исключить из гимназии, однако в итоге необходимая сумма нашлась. Кроме того, Алексею, как малообеспеченному, выплачивалась материальная помощь. В виду особых обстоятельств ему даже позволили давать частные уроки, чтобы хоть как-то решить финансовые проблемы.
После окончания юношей семи классов педагогический совет, несмотря на не самые лучшие оценки в аттестате, ходатайствовал перед попечителем Виленского учебного округа о назначении ему специальной стипендии на обучение в университете для воспитанников гимназий Северо-Западного края.
В 1869 г. Сапунов стал студентом историко-филологического факультета Императорского Санкт-Петербургского университета. Здесь его кругозор значительно расширился. Помимо занятий по профильным предметам, молодой человек с большим интересом посещал лекции таких выдающихся светил науки, как математик П. Л. Чебышев, химик Д. И. Менделеев и др.
Один из его преподавателей, выдающийся русский славист В. И. Ламанский, хотел, чтобы после завершения учебы выделявшийся незаурядными способностями студент остался у него на кафедре славянской филологии, однако Сапунов вынужден был покинуть Санкт-Петербург: казенную окружную стипендию нужно было отрабатывать в родных краях. В итоге в 1873 г. выпускник Санкт-Петербургского университета занял вакантное место преподавателя Витебской гимназии.