Родился в Петербурге в семье смотрителя училища правоведения.
Окончил гимназию. Поступил в Михайловское артиллерийское училище, после выпуска из которого в 1895 году служил командиром взвода в первой гвардейской артиллерийской бригаде.
В 1900 году окончил Михайловскую артиллерийскую академию и был назначен в артиллерийский комитет Главного артиллерийского управления.
Сконструировал автоматические винтовки калибра 7,62 мм (1912), калибра 6,5 мм под патрон собственной конструкции (1913), предвосхитив тем самым идею использования промежуточного патрона для автоматического оружия.
В 1916 адаптировал своё ружьё-пулемет под патрон калибра 6,5 мм для винтовки Арисака, который был более пригоден, чем стандартный винтовочный патрон 7,62?54 мм R, из-за своих меньших размеров и мощности. Патрон был доступен, так как винтовки Арисака и патроны к ним во время первой мировой войны в большом количестве поставлялись для русской армии из Японии, и производство этих патронов было налажено на Петербургском патронном заводе и в Великобритании. Это ружьё-пулемёт получило впоследствии название Автомат Фёдорова.
С начала 1918 года Фёдоров работал на Ковровском пулемётном заводе. В 1921 году он создает на заводе первое в стране проектно-конструкторское бюро стрелкового оружия.
В 1931—1933 — консультант по стандартизации в оружейно-пулемётном тресте. В 1942—1946 — консультант по стрелковому оружию в Наркомате и министерстве вооружения.
В 1949 году вышла книга Фёдорова «К вопросу о дате появления артиллерии на Руси», в которой он относит первое применение артиллерии на Руси к 1382 году. Кроме того, он написал две книги о «Слове о полку Игореве», которое он анализирует с военной точки зрения.
Вышел в отставку в 1953 году. Умер в 1966 году. Похоронен в Москве на Головинском кладбище.
Именем Фёдорова названа улица Оружейника Фёдорова, в Центральном районе Санкт-Петербурга, от Фонтанки до ул.Гагарина.
Угол Гагарина и Фёдорова
Улица Оружейника Фёдорова
В Санкт-Петербурге — Петрограде:
В Москве: