Николай Петрович Остроумов родился в 1846 году в селе Сасово Елатомского уезда Тамбовской губернии в семье священника. С 1860 по 1866 учился в Тамбовской семинарии, а затем с 1866 по 1870 годы в Казанской духовной академии, где изучал тюркские и арабский языки и ислам «в целях миссионерства». В академии его учителями были Н. И. Ильминский и Г. С. Саблуков.
По окончании курса в Казанской духовной академии со степенью магистра он преподавал в ней, а также местной семинарии историю и вероучение ислама, а также татарский и арабский языки.
Период жизни в ТашкентеС 1877 года Николай Петрович Остроумов жил и работал в Ташкенте.
Он занимал должность инспектора училищ, был директором Учительской семинарии, директором гимназии.
С 1883 по 1917 Н. П. Остроумов был редактором «Туркестанской туземной газеты», издаваемой в Ташкенте. При его участии были изданы на узбекском языке произведения А. С. Пушкина («Сказка о рыбаке и рыбке»), Л. Н. Толстого («Чем люди живы»), брошюры «Краткая история древнего Египта», «Жизнь Колумба», «О пользе наук», «Рассказы из физической географии», «Географическая карта всех частей света» и другие книги.
В 1907 году Николай Петрович издал сборник стихотворений Махтум-кули и извлечения из «Дивана» Мукими, в 1910 вышла его работа «Этимология сартовского языка».
В период с 1885 по 1886 года он по поручению Британского библейского общества перевёл на узбекский язык четыре книги евангелие, напечатанные затем в 1891 году в Лейпциге.
Н. П. Остроумов был одним из основателей Туркестанского кружка любителей археологии, открывшегося в 1893 году. В мае 1904 года становится членом-корреспондентом Русского комитета для изучения Средней и Восточной Азии.
С 1917 по 1921 год он жил в родном селе Сасово, затем после 1921 года преподавал в Ташкенте.
Николай Петрович Остроумов умер 17 ноября 1930 года в селе Луначарском недалеко от Ташкента и похоронен на Боткинском кладбище Ташкента.