Николай Николаевич Константинов родился 21 октября 1952 года.
Был заместителем секретаря Политсовета, помощником лидера Всероссийской политической партии «Единой России» Бориса Грызлова, а также работал с бывшим главой петербургских единороссов Александром Бегловым.
В 2002-2003 годах он возглавлял аппарат Беглова, когда тот исполнял полномочия губернатора Санкт-Петербурга и руководил канцелярией губернатора, а также был его замом в городском отделении партии.
В марте 2006 года Константинов выдвигался на выборах в Законодательное собрание Санкт-Петербурга по спискам «Единой России».
Занимал пост первого заместителя председателя комитета по транспорту Санкт-Петербурга.
В апреле 2007 года был назначен руководителем исполкома Санкт-Петербургского регионального отделения «Единой России».
В 2008 году Николай Константинов возглавил аппарат замглавы Администрации президента.
Был заместителем руководителя канцелярии Президента РФ, ответственным секретарем Совета при Президенте по делам казачества.
15 декабря 2009 года указом президента России Дмитрия Медведева назначен руководителем канцелярии главы государства.