Родился в семье кадровых сотрудников органов внутренних дел: отец — Гумар, 1928 года рождения, работал начальником «четвёртой туберкулёзной» колонии УМ 220/4, которая находится в посёлке Верхний Республики Карелии, полковник внутренней службы в отставке. Мать, Шадия, умерла в 1998 году. Брат Радик 1955 года рождения, служил до 42 лет.
В 1974 году окончил среднюю школу карельского поселка Надвоицы. В том же году поступил в Петрозаводский государственный университет, который окончил в 1979 году. Обучался на военной кафедре при университете.
С 1979 года по 1981 год работал преподавателем физики в школе карельского посёлка Надвоицы.
С 1981 года — на службе в органах Комитета государственной безопасности. Работал в КГБ Карельской АССР на должностях оперуполномоченного Калевальского районного отделения КГБ, оперуполномоченного Костомукшского городского отдела КГБ, начальника Медвежьегорского районного отделения КГБ, начальника отдела по борьбе с терроризмом ФСК Республики Карелия. В 1992—1994 годах начальником Нургалиева был министр безопасности Карелии Патрушев, впоследствии ставший директором ФСБ.
С 1995 года проходил службу в центральном аппарате Федеральной службы контрразведки, а затем Федеральной службы безопасности: главный инспектор Организационно-инспекторского управления, начальником отдела в Управлении собственной безопасности ФСБ.
С 1998 года — начальник отдела в Главном контрольном управлении Президента России.
В 1999 году возвращён в ФСБ России и назначен начальником Управления по борьбе с контрабандой и незаконным оборотом наркотиков Департамента экономической безопасности ФСБ России. С 2000 года — заместитель Директора ФСБ России — начальник Инспекторского управления ФСБ России.
В июне 2002 года переведён в Министерство внутренних дел Российской Федерации на должность первого заместителя Министра внутренних дел Российской Федерации — начальника Службы криминальной милиции МВД России. На этом посту курировал борьбу с наркобизнесом и организованной преступностью. При поддержке Нургалиева в 2003 году в рамках ГУБОПа был образован центр по борьбе с терроризмом.
С 31 декабря 2003 года, после отставки Бориса Грызлова — исполняющий обязанности Министра внутренних дел Российской Федерации.
9 марта 2004 года назначен на должность Министра внутренних дел Российской Федерации. В 2004 году опубликовал свою книгу «Министерство внутренних дел. 1902—2002: Исторический очерк». Генерал армии (27 декабря 2005). С февраля 2006 года по должности является членом и заместителем председателя Национального антитеррористического комитета Российской Федерации. В период до 1 марта 2011 года под руководством Нургалиева произошла одна из самых крупных реформ ведомства начиная с 1917 года. Милиция сменила название и стала называться полицией, но не изменила методы работы.
Женат, воспитал двоих сыновей, оба стали офицерами. Жена Маргарита. Старший сын Максим окончил военную академию в Москве, младший Рашид — академию ФСБ. Своим любимым городом министр называет Петрозаводск. В 2006 г. стал почётным гражданином Республики Карелия «за личный вклад в укрепление законности и правопорядка на её территории». С детства увлекается хоккеем. Вегетарианец. «Ем мало, обхожусь орехами, зеленью, овощами и фруктами», — говорил Р. Нургалиев в одном из своих интервью.
Является кандидатом экономических наук (тема диссертации — «Экономические аспекты формирования предпринимательства в современной России»).