Александр Серов родился 11 января 1820 года в городе Санкт-Петербурге. Его дедом по материнской линии, по свидетельству В. В. Стасова, был Карл Иванович Габлиц. Отец - юрист.
В семилетнем возрасте начал учиться музыке у молодой пианистки Олимпиады Жебелёвой, занимавшейся с ним, по словам В. В. Стасова, «солидно и необыкновенно тщательно». Серов посвятил своей наставнице фортепианный ноктюрн, а впоследствии вспоминал: «Это труженица, искренно любящая свое искусство; не владея современной пустой виртуозностью, она глубоко внедрила в меня любовь к музыкальной литературе».
Александр Николаевич Серов
(портрет кисти В. А. Серова)
Окончил Первую Санкт-Петербургскую классическую гимназию, затем учился в Училище правоведения (1835-1840). Блестяще окончив последнее стал чиновником министерства юстиции и внутренних дел, где его отец, Николай Иванович, человек невысокого происхождения, но умный и энергичный, занимал довольно видное место. После пятилетней службы в Санкт-Петербурге А. Н. Серов был направлен в Симферополь. Он был назначен заместителем председателя Таврической уголовной палаты, однако от службы его постоянно отвлекала любовь к музыке. Здесь он написал свои первые оперы «Мельничиха из Марли» и «Майская ночь», позже уничтоженные. Из Симферополя Серов был переведён в Псков и вскоре, наперекор воле отца и несмотря на самые стеснительные материальные условия, вышел в отставку и посвятил себя исключительно музыкальным занятиям.
В начале 1842 года Александр Серов познакомился с Михаилом Ивановичем Глинкой, личность которого произвела на него сильное впечатление; он во многом определил художественные взгляды и вкусы Серова. До тех пор относившийся довольно равнодушно и к русской музыке вообще, и к произведениям Глинки в частности, Серов стал смотреть на эти явления другими глазами. Даже когда первый пыл увлечения «Жизнью за царя» и «Русланом и Людмилою» несколько остыл, когда Cеров начал подмечать кроме достоинств также и недостатки в этих произведениях, он все же и к ним, и к их автору продолжал относиться с глубоким уважением. Значительное влияние на формирование Серова как музыканта имело и состоявшееся вскоре знакомство с Даргомыжским.
Переехав в 1850 году в Петербург он стал музыкальным критиком: его первые статьи появились в 1851 году в журналах «Современник», «Сын отечества», «Библиотека для чтения»; затем - в Пантеоне.
Бюст Серову у входа в отель «Серовъ» (Симферополь)
В 1858 году, во время поездки за границу, Серов познакомился с Листом и Вагнером, встречи с которыми описал в опубликованных в 1858-1859 годах «Письмах из-за границы». В этом же году он впервые в России провёл цикл публичных лекций о музыке, не имевших тогда успеха. Однако, повторенные в 1860 году лекции, имели уже значительный успех.
Как указывал Ф. М. Толстой, Серов-композитор был выше Серова-критика. В 1863 году с огромным успехом прошла премьера его оперы «Юдифь». В этом же году он женился на своей ученице, одаренной музыкантше - Валентине Бергман.
В 1867 году Серов предпринял вместе с женой попытку основать впервые в России специальную музыкальную газету «Музыка и театр» - газета просуществовала недолго, не найдя поддержки в обществе.
В 1868 году Серов снова прочёл цикл лекций в Москве; он пропагандировал творчество М. Глинки, А. Даргомыжского, В. А. Моцарта, Л. Бетховена и других выдающихся композиторов. В 1870 году Русское музыкальное общество командировало его, с солидными рекомендациями от великой княгини Елены Павловны, в Вену - на торжества по поводу столетия со дня рождения Бетховена.
Серов был первым, кто употребил термин «симфонизм».
Александр Николаевич Серов умер 20 января 1871 года в родном городе.