Родился в мещанской семье посада Крылова Полтавской губернии. Принял постриг в старообрядческом Серковском монастыре в Бессарабии, затем перешёл австрийскую границу и стал иноком Белокриницкого монастыря, где и получил фамилию Милорадов, под которой стал известен. По словам противника старобрядцев профессора Н. И. Субботина, «это был весьма ловкий, в высшей степени отважный и смелый человек, горячо преданный расколу».
Вместе с иноком Павлом (Великодворским) участвовал в поиске и приглашении архиерея для создания старообрядческой иерархии (позднее известной как «Белокриницкой»). По словам профессора Субботина, «отдался этому делу всей душой, для него готов был на самые отважные подвиги и под руководством такого рассудительного и дальновидного человека, как инок Павел, мог действительно принести ему большую пользу». Сопровождал инока Павла в его поездках по Австрии, в Москву, на Ближний Восток и в Константинополь. После согласия митрополита Амвросия (Поповича) возглавить старообрядческую Церковь выехал в Белую Криницу, а затем в Россию с тем, чтобы сообщить верующим об этом событии.
В 1848 участвовал в славянском съезде в Праге — был одним из двух русских участников этого форума; вторым являлся известный анархист Михаил Бакунин. До конца жизни проживал в Белокриницком монастыре, оставаясь простым иноком. Похоронен на монастырском кладбище (ныне на территории Украины).
В сентябре 2006 Освященный собор Русской Православной старообрядческой Церкви, состоявшийся в Белой Кринице, утвердил почитание иноков Павла и Алимпия местночтимыми Святыми.