Казак станицы Григорополисской Кубанского войска. Окончил Владимирский Киевский кадетский корпус (1884), Московское Александровское военное училище (1886), Александровскую Военно-юридическую академию (1907) и одновременно Археологический институт.
Пройдя службу на младших строевых должностях, с 1908 занимал военно-административную должность атамана Лабинского отдела Кубанского казачьего войска.
После Февральского переворота был избран председателем Кубанского войскового правительства. С 12 октября 1917 по 10 ноября 1919 — атаман Кубанского казачьего войска, офицер в Кубанской армии генерала Покровского.
Вел умеренно-независимую политику Кубани и Кубанского войска по отношению к правительству Кубани и Добровольческой армии. Из-за разногласий с Деникиным вынужден был сложить с себя полномочия атамана Кубанского казачьего войска (10.11.1919). В декабре 1919 эмигрировал в Сербию. Умер в 1948 в городе Осиек (Югославия).
В честь атамана Филимонова в 1915 году названа станица Филимоновская.