Арсентий Арсентьевич родился 5 мая 1917 года в станице Филоновская Новоаннинского района Волгоградской области.
Первый помощник начальника штаба 358-го стрелкового полка, старший лейтенант Щербаков умело руководил подготовкой полка к переправе через Днепр и самой переправой подразделений в районе о. Казачий (южная окраина Киева) 2 октября 1943 года. 13—14 октября 1943 года, после переброски дивизии на лютежский плацдарм (севернее Киева), заменил выбывшего из строя командира батальона и возглавил отражение контратак противника.
После войны жил в Москве. Умер 5 апреля 1974 года, похоронен на Бабушкинском кладбище.
Удостоен звания Герой Советского Союза с вручением ордена Ленина указом от 10 января 1944 года.