Николай Мордвинов родился 2 (15) февраля 1901 года в семье известного в своём городе ядринского купца. Уже в период обучения в Ядринском реальном училище играл в любительских спектаклях. В 1925 году поступил в студию под руководством Ю. А. Завадского (Москва), два года спустя реорганизованную в Театр-студию (1927).
С 1936 года играл в Ростовском-на-Дону театре им. М. Горького, с 1940 года — в Московском театре им. Моссовета.
В городе Ядрине имеется дом-музей артиста.
Среди первых ролей, созданных Мордвиновым, наиболее значительными считаются образы Ричарда («Ученик дьявола» Шоу), Ваграма («Ваграмова ночь» Л. С. Первомайского), Соболевский («Простая вещь» по Лавреневу), Петруччо («Укрощение строптивой» Шекспира).
В 1937—1939 играл роли Дона Гуана в «Каменном госте» А. С. Пушкина, Карла Моора в «Разбойниках» Фридриха Шиллера и другие главные роли.
Театральным работам свойственны темпераментная, романтически приподнятая игра и тяготение к героико-трагедийным образам, сказавшееся в создании характеров сильных, незаурядных личностей, таких, как Отелло, Лир («Отелло», «Король Лир» Шекспира), генерал Огнев («Фронт» А. Е. Корнейчука). С глубиной, безупречно найденной характерностью исполнил роль Василия Забродина («Ленинградский проспект» И. В. Штока). В блестящей буффонно-драматической манере играл комедийную роль кавалера Рипафратты («Трактирщица» Карло Гольдони).
С 1935 года снимался в кино. В 1936—1942 годах исполнил главные роли цыгана Юдко в фильме («Последний табор», 1936), Арбенина — в фильме «Маскарад» (1941), Богдана Хмельницкого — в фильме «Богдан Хмельницкий» (1941), Котовского — в фильме «Котовский» (1943). Участвовал также в фильме «Парень из нашего города» (1942).
Выступал с чтением стихотворений и поэм М. Ю. Лермонтова, записал его поэмы на радио. Крупнейшая работа Мордвинова — роль Арбенина в пьесе М. Ю. Лермонтова «Маскарад». Первоначально была сыграна Мордвиновым в кино (1941). Арбенин в исполнении Н. Д. Мордвинова — герой-бунтарь. За воплощение этого образа в театре (1952, 1963) актёр был удостоен Ленинской премии (1965).
Николай Дмитриевич Мордвинов скончался 26 января 1966 года в Москве.