Николай Александрович Толстой воспитывался в училище правоведения и затем в Николаевском кавалерийском училище; в 1868 году был произведён в корнеты и выпущен в лейб-гвардии Гусарский полк. Однако вскорости за «буйный» характер он был исключён из полка и лишён права жить в обеих столицах.
Женился в 1873 году на Александре Леонтьевне Тургеневой, писательнице.
В 1873 году отставной гвардии поручик Толстой на публике нецензурно оскорбил самарского губернатора Фёдора Климова. По высочайшему повелению императора Александра II граф Толстой был выслан из Самары в Кинешму под надзор полиции. Благодаря хлопотам родственников он пробыл в ссылке лишь полгода, после чего смог опять вернуться в общество.
С 1881 года Николай Александрович Толстой становится предводителем дворянства Самарского уезда на 18 лет подряд (шесть трёхлетних сроков), занимает ряд губернских постов и должностей. В 1882 году на средства графа в Петербурге был опубликован первый и единственный роман А. Л. Толстой «Неугомонное сердце», во многом автобиографичный.
В семейной жизни Толстой был груб и ревнив, однажды даже стрелял в жену, но промахнулся. В мае 1882 года Александра Леонтьевна Толстая, будучи на втором месяце беременности, сбежала от мужа в уездный центр Николаевск (ныне - Пугачёв) к Алексею Аполлоновичу Бострому, на тот момент - председателю уездной земской управы и члену губернского земского правления. Через месяц Толстой приехал в Николаевск и передал Бострому вызов на дуэль, от которой тот отказался. 20 августа (1 сентября) 1882 г. на станции Безенчук Толстой, ехавший в поезде Самара-Санкт-Петербург, увидел, как его жена и Бостром садятся в поезд. Он нашёл их в купе 2 класса и выстрелил в соперника, ранив его. 23 января 1883 года состоялось судебное заседание, на котором Толстой был оправдан, доказав, что выстрел был неумышленным. За две недели до суда родился Алексей Толстой, будущий писатель, который провёл детство в доме своего отчима и до 13 лет носил фамилию Бостром. В 1883 году брак Толстых был расторгнут, трое старших детей (Елизавета, Александр и Мстислав) остались у отца.
В 1888 году женился на вдове штабс-ротмистра Вере Львовне Городецкой.
Умер в 1900 году в Ницце. Похоронен на кладбище Иверского женского монастыря в Самаре.