Когда началась Великая Отечественная Анатолию Павловичу было всего 16 лет. Приписав себе ещё 2 года, он ушёл на фронт быть врага.
Прошёл Калининский, Карельский, 3-й Украинский фронт, был трижды ранен. После победы Анатолий Павлович Щербаков твердо решил связать свою жизнь с армией.
В 1946 году Анатолий Павлович был отправлен на Дальний Восток, где прослужил более 20 лет. С 1967 года продолжил службу в воинской части города Курска, а в 1970 году был назначен на должность начальника военной кафедры Курского политехнического института, где прослужил до 1981 года.
После 40 лет исправной службы Анатолий Павлович вышел в отставку в звании полковника, имея множество наград, среди которых орден Отечественной войны первой степени, два ордена Красной звезды, медали «За отвагу» и «За боевые заслуги». На его счету около 400 прыжков с парашютом.
На гражданке вел активную общественную жизнь, под его редакцией изданы книги про десантников. В 2016 Щербакову присвоено звание Почетного гражданина города Курска, он также является Почетным гражданином города Олонец (Карелия).
