С восьми лет Мордвинов учился в городском приходском училище, а с одиннадцати – в Ядринском реальном училище, в котором он увлёкся театральными постановками и литературой. К 1918 году Николай организовал собственный драматический кружок.
Во время гражданской войны Николай не принимал участие в боевых действиях, а служил писарем и артистом первой ударной труппы.
После войны Мордвинов служил в Союзе работников просвещения при Наробразе в родном Ядрине. В 1924 году отправился в Москву, где поступил в Центральный техникум театрального искусства. Однако всего через несколько месяцев он был отчислен за «профнепригодность». Молодой артист не сдался и в 1925 году поступил в студию под руководством Ю. А. Завадского. Позднее тот же Завадский организовал собственный театр, в труппу которого и вошёл Николай Мордвинов. На сцене театра Завадского актёр исполнил роли в таких постановках, как «Рассказ о простой вещи», «Любовью не шутят», «Компас, или Деловой человек», «Пьяный круг» и других.
В 1936 году артист перешёл работать в Ростовский театр имени Максима Горького. Проработав на его подмостках около четырёх лет, Николай Дмитриевич успел сыграть в таких спектаклях, как «Волки и овцы», «Ученик Дьявола», «Любовь Яровая», «Каменный гость», «Тигран» и «Разбойники».
В 1940 году перешёл в труппу театра имени Моссовета, на сцене которого проработал до конца жизни. Он сыграл в таких постановках, как «Обида», «Рассвет над Москвой», «Фронт» и других.
По мнению многих, вершиной театральной карьеры Николая Мордвинова стала работа в спектакле «Маскарад», в котором он исполнил роль Арбенина. Впоследствии «Маскарад» экранизировали.
В кино актёр начал сниматься с 1936 года. В его фильмографии значатся такие картины, как «Последний табор», «Богдан Хмельницкий», «Маскарад», «Парень из нашего города», «Котовский», «В горах Югославии»и «Когда улетают аисты».
Николай Дмитриевич Мордвинов скончался от инфаркта 26 января 1966 года в Москве.
