Сын слависта, историка литературы, археолога и этнографа А. А. Котляревского. Учился в коллегии Павла Галагана и на историко-филологическом факультете Московского университета (1881-1885). На 3-м курсе, Нестор Александрович Котляревский представил профессору А. М. Иванцову-Платонову сочинение на заданную факультетом тему: «Христианские апокрифы II века как исторический источник», получившее золотую медаль; а позже, перейдя к Н. И. Стороженко и окончательно утвердившись в занятиях по истории литературы, сначала - всеобщей, затем - русской, написал большой очерк «О любовной поэзии Средних веков». Очерк остался ненапечатанным, а дебютировал Н. А. Котляревский в печати переводом сочинения Е. Laveley «Образование народных эпопей и происхождение песни о Нибелунгах» (1884), к которому дал предисловие, скромно подписанное инициалами Н. К. 1 июня 1885 года он окончил университет со степенью кандидата и был на два года оставлен при кафедре истории всеобщей литературы с командировкой за границу, в Парижский университет, для подготовки к магистерским экзаменам.
Вернувшись осенью 1889 года в Москву, Котляревский выпустил в конце этого же года свой труд по истории русской литературы, брошюру «Литературные очерки. Вып. I. Поэзия скорби и гнева. Москва. 1890»; а затем, сдав в течение зимы 1889-1890 годов магистерские испытания, - переехал в Петербург. Однако степень магистра истории всеобщей литературы он получил после состоявшегося 17 октября 1899 года в Московском университете публичного диспута по его труду «Мировая скорбь в конце прошлого и в начале нашего века»; профессор В. И. Герье, бывший одним из неофициальных оппонентов на этом диспуте, признал, что автор диссертации мог бы с таким же успехом получить и степень магистра всеобщей истории за свой труд, - настолько дельным был он признан для обеих научных дисциплин. Дальнейшую связь с Московским университетом Нестор Александрович сохранил только через числившееся при университете Общество любителей российской словесности, членом которого, сначала действительным (с 14 ноября 1902 года), а затем и почётным (с 15 октября 1911 года), он стал по избранию.
С переездом в 1890 году в Петербург, сделавшийся с тех пор местом постоянного жительства и службы Нестора Александровича, он посвятил себя учёной и, наряду с нею, педагогической деятельности; вместе с тем он вошёл в различные литературные круги столицы и скоро занял в них видное место. В доме А. Н. Пыпина он встречался со многими представителями науки и искусства: Н. П. Кондаковым, И. В. Ягичем, С. В. Ковалевской, В. С. Соловьёвым, М. А. Балакиревым.
Педагогическую деятельность Н. А. Котляревский начал на Высших женских курсах (Бестужевских) курсах, куда летом 1892 года был приглашён к чтению лекций по истории литературы Средних веков, в звании преподавателя. Звание это Нестор Александрович сохранял до 1898 года. В 1908 году, уже в звании профессора он один учебный год читал здесь свой курс «История русской литературы в 50-е и 60-е годы XIX века», легший в основу его книги «Канун освобождения». Следующий курс «Литературныя течения на Западе в первой половине XIX в.», послуживший основанием книги «Девятнадцатый век», он читал только в 1914/1915 учебном году. С 1893 года он был преподавателем Александровского лицея по кафедре истории литературы. Приглашался Котляревский также преподавать в Николаевскую Академию Генерального штаба, на Высшие курсы Лесгафта, Высшие историко-литературные курсы Раева и в Александровскую военно-юридическую Академию (с 1911).
Начиная с 1900 года Н. А. Котляревский через каждые два года избирался Обществом русских драматических писателей и оперных композиторов в члены жюри по присуждению Грибоедовской премии Общества. В 1900 году он, по приглашению председательствующего в Отделении русского языка и словесности Академии наук А. Н. Веселовского, взял на себя рассмотрение сочинений К. К. Случевского, представленных на соискание Пушкинской премии; в 1903 году он представил, ему же порученный, отзыв о труде Вл. Каренина о Жорж Санд, представленном на ту же премию; за этот отзыв, как и за предыдущий, Котляревский получил золотую Пушкинскую медаль и после этого, 23 сентября 1903 года, вошёл, по приглашению того же Веселовского, в число членов Комиссии по присуждению Пушкинских премий.
8 ноября 1906 года, по представлению А. Ф. Кони НН. А. Котляревский был избран в почётные академики по Разряду изящной словесности при Отделении русского языка и словесности Академии наук. Первым выступлением его в новом звании была речь памяти графа А. К. Толстого, произнесённая 21 января 1907 года и отмеченная Пушкинской золотой медалью. 1 февраля 1907 года он был избран в члены Комиссии по изданию сочинений Пушкина при II Отделении Академии Наук, в которой оставался, позже - в качестве председателя, до своей кончины. 14 Февраля 1909 года он был избран в ординарные академики по Отделению русского языка и словесности.
Незадолго до избрания ординарным академиком (9 января 1909 года) Котляревский получил от президента Академии приглашение принять на себя звание члена и участие в работе Комиссии по постройке памятника Пушкину в Санкт-Петербурге. После того, как 10 июня 1910 года академик С. Ф. Ольденбург передал ему управление делами Комиссии и подведомственного ей Пушкинского Дома, стал первым директором Дома.
Похоронен Н. А. Котляревский на Никольском кладбище Александро-Невской лавры.