Николай Иванович Рыленков родился 15 (2) февраля 1909 года в деревне Алексеевка Смоленской губернии в крестьянской семье.
Окончил факультет литературы и языка Смоленского педагогического института (1933).
Печатался с 1926 года. Первая книга стихов — «Мои герои» (1933). Автор сборников «Берёзовый перелесок» (1940), «Синее вино» (1943), «Книга полей» (1950), «Корни и листья» (1960), «Рябиновый свет» (1962) и др., нескольких поэм, стихотворного пересказа «Слова о полку Игореве» (1963), песен, рассказов, очерков, автобиографических и исторических повестей.
Участник Великой Отечественной войны. Командир взвода в сапёрном батальоне, военный корреспондент фронтовой печати.
Награждён орденом Ленина, орденом Трудового Красного Знамени и медалями.
Умер 23 июня 1969 года, похоронен в Смоленске на Братском кладбище.