Родился 10 (23) сентября 1915 года в городе Ростове (ныне Ярославской области) в семье молодого купца.
Там же окончил школу №1. После чего переехал в Москву. Учился в Государственных экспериментальных театральных мастерских, Центральном техникуме театрального искусства, служил в театрах в Свердловске, Ярославле, Калуге, Смоленске, МАТС.
Во время Великой Отечественной войны сначала во время бомбежек Москвы вместе с В. Ю. Драгунским дежурили на крыше театра и сбрасывали зажигательные бомбы, затем в качестве бригадира фронтовой бригады театра был направлен для выступлений перед солдатами на фронте. После эвакуации театра работал в Иркутске, Магнитогорске, Челябинске, Чите, в городах Дальнего Востока. Затем снова выступал на фронте, был награждён боевыми наградами.
После войны в Театре сатиры играл в пьесе «Факир на час» (роль Коли-фоторепортера), в которой исполнял танцы и куплеты. Вместе с ним играли Виталий Доронин и Владимир Хенкин.
В этом спектакле в 1946 году его увидел Александр Шуров, предложивший создать эстрадный сатирический дуэт. Первое выступление состоялось 2 мая 1946 года в ЦДСА.
В репертуаре дуэта были песни, куплеты. Основным в выступлениях дуэта было исполнение куплетов и переделок популярных песен. Н.Рыкунин не только аккомпанировал себе на рояле, но и танцевал.
Затем дуэт стал создавать целые эстрадные спектакли. К середине 1950-х годов в спектакли стали привлекаться музыканты. В этот период Николай Рыкунин окончил Высшие режиссёрские курсы при ГИТИСе, прошёл стажировку у Г.Товстоногова. Как режиссёр ставил не только свои программы, но и представления на стадионах, во дворцах спорта, его программы шли в саду «Эрмитаж».
В 1976 году снялся в фильме «Ансамбль неудачников» (номер «Неудачное свидание»).
В 1991 году дуэт прекратил выступления в связи с болезнью А.Шурова.
В 1997 году Николай Рыкунин сыграл «Бенефис» в Театре эстрады.
После окончания работы на сцене выпустил книгу «Бенефис на бис», работал над мюзиклом, повестями. Намеревался переехать в Ростов для воссоздания в городе театра.
Скончался 19 октября 2009 года в Москве. Похоронен на Введенском кладбище Москвы 26 октября 2009 года.