Родился в семье податного инспектора. Брат епископа Нектария (Концевича). Был женат на Елене Юрьевне Концевич (1893—1989), религиозной писательнице.
Учился на математическом факультете Харьковского университета. В 1916 году посетил Оптину пустынь, находился под духовным руководством оптинских старцев. Был участником Гражданской войны в составе Белой армии. В 1920 году эмигрировал в Турцию, где находился в военном лагере Галлиполи; там окончил военно-инженерное училище.
Переехал во Францию, где занимался физическим трудом, одновременно завершая высшее образование. Окончил физико-математический факультет Сорбонны (1930), дипломированный специалист по электрификации. Работал инженером-электриком на юге Франции.
Окончил Свято-Сергиевский православный богословский институт в Париже (1948; кандидатская работа на тему «Стяжание Духа Святого в путях древней Руси»). В 1952 переехал в США, был прихожанином Русской православной церкви за рубежом. Преподавал патрологию в Свято-Троицкой семинарии в городе Джорданвилле.
Основные труды посвящены истории русского монашества — как в Древней Руси, так и в новое время. Значительное внимание уделял характеристике духовных традиций в русской церкви. В книге о стяжании Духа Святого попытался осветить сущность подвига трезвения и духовной молитвы, приводящих к Богообщению, и связанного с этим подвигом благодатного старчества, как руководящего начала. Сочетал богословские и исторические исследования с тем, чтобы показать, как «умное делание» развивалось в древнем монашестве на Востоке, а также и в России в X—XVII веках. Книга об Оптиной пустыни, подготовленная к печати его вдовой, составлена на основе уникальных материалов, писем оптинских старцев, воспоминаний современников. Считал, что старчество — это древнее пророческое служение церкви.
Основные труды И. М. Концевича были переизданы в России в 1990-е годы.