Родился 12 декабря 1922 г. в селе Тысяцком Новоторжского уезда Тверской губернии в многодетной рабочей семье. Отец трудился в паровозоремонтных мастерских. В 1933 г. отца перевели в Ленинград, где он работал кузнецом на заводе им. Егорова до самой смерти в январе 1942 г.
В 1940 г. Николай Яковлев получил аттестат об окончании 10-й Ленинградской артиллерийской специальной школы НКП РСФСР, после чего был призван в Красную армию и направлен на учёбу в Ленинградское артиллерийское училище. В июне 1941 г. выпущен командиром артиллерийской батареи.
С первых дней Великой Отечественной войны – в действующей армии. Участвовал в боях за Киев, попал в окружение, вступил в партизанский отряд, в котором воевал до 1943 г. С сентября 1943-го командовал батареей в составе 213-го отдельного самоходно-артиллерийского дивизиона на Юго-Западном и Втором Украинском фронтах. Участвовал в боях за освобождение Европы, дошёл до Берлина. Был дважды ранен. Демобилизовался в звании капитана в должности начальника штаба дивизиона. С сентября 1946 по август 1947 г. работал техником-конструктором на авиамоторостроительном заводе № 466 в Ленинграде.
В 1947 г. поступил в Ленинградский инженерно-строительный институт на архитектурное отделение, который с отличием окончил в 1953. В 1954–1957 гг. учился в аспирантуре. В октябре 1958 г. защитил кандидатскую диссертацию на тему «Застройка протоков левобережной части Ленинграда и некоторые вопросы архитектурно-планировочной реконструкции Обводного канала».
Вся дальнейшая судьба Н. А. Яковлева связана с ЛИСИ: работал старшим преподавателем (1960) и доцентом (1963) кафедры планировки и благоустройства населённых мест, заместителем декана градостроительного факультета (1960–1963), деканом по работе с иностранными студентами (1964–1968). В 1968–1974 гг. – ректор ЛИСИ. Получал благодарности в приказах министра высшего и среднего специального образования РСФСР (1970; 1972). Автор ряда статей и научных отчётов.
Научную и педагогическую деятельность сочетал с практической работой архитектора. Работал (по совместительству) в Ленинградском филиале Академии строительства и архитектуры и проектном институте «Ленгипрогор» (1953–1955). Участвовал в проектировании центральной части Хабаровска, одного из районов Перми, центральной части Тольятти. В Ленинграде по его проекту построен крытый бассейн для испытания моделей кораблей Крыловского научного центра. На общественных началах возглавлял конструкторское бюро по благоустройству Ленинского района города (1965–1967). Депутат Ленсовета (1950–1952).
Награждён орденами Отечественной войны I степени, Красной Звезды и «Знак Почёта», четырьмя медалями: «За отвагу», «За оборону Киева», «За победу над Германией», «В память 250-летия Ленинграда».
Умер 15 мая 1974 г. Похоронен на Богословском кладбище.