Портрет детей художника. 1882.
Родился в Москве, старшим сыном в семье российского деятеля искусств и художника-любителя, Егора Ивановича Маковского. Егор Маковский был основателем «Натурного класса», художественного училища, которое потом стало известно как Московское училище живописи, ваяния и зодчества. Брат художника Маковского Владимира Егоровича. Среди друзей семьи были Карл Брюллов и Василий Тропинин. Все дети Егора Ивановича стали выдающимися художниками (см. Маковский). Позднее Константин писал: «Тем, что из меня вышло, я считаю обязанным себя не академии, не профессорам, а исключительно моему отцу».
В 1851 году Константин поступил в Московское училище живописи и ваяния, где он стал первым студентом, легко получая все доступные награды. Его учителями были М. И. Скотти, А. Н. Мокрицкий, С. К. Зарянко, все - ученики Карла Брюллова. Склонность Маковского к романтизму и декоративным эффектам можно объяснить влиянием Брюллова.
В 1858 году Маковский поступил в Императорскую Академию художеств в Санкт-Петербурге. С 1860 года он участвовал в выставках Академии с такими картинами как «Исцеление слепых» (1860) и «Агенты Димитрия Самозванца убивают сына Бориса Годунова» (1862). В 1863 году Маковский, вместе с 13 другими студентами, выбранными для участия в конкурсе на Большую золотую медаль Академии, отказался писать картину на тему Скандинавской мифологии и покинул Академию, не получив диплом.
Маковский присоединился к артели художников, возглавляемой Иваном Крамским, создавая картины повседневной жизни (Вдова (1865), Продавец сельди (1867) и т. д.). В 1870 году он стал одним из основателей «Товарищества передвижных художественных выставок» и продолжал работать над картинами, посвящёнными повседневной жизни. Он выставлял свои работы как на выставках Академии, так и на передвижных художественных выставках.
Перемещение ковра Мухаммеда из Мекки в Каир, 1875 г. Национальная картинная галерея Армении
Значительные изменения в его стиле произошли после путешествия в Египет и Сербию в середине 1870-х. Его интересы сместились от социальных и психологических проблем к художественным проблемам цвета и формы.
В 1880-х он стал модным автором портретов и исторических картин. На Всемирной выставке 1889 года в Париже он получил Большую золотую медаль за картины «Смерть Ивана Грозного», «Суд Париса» и «Демон и Тамара». Он был одним из самых высоко ценимых и высокооплачиваемых российских художников того времени. Многие критики-демократы рассматривали его как предателя идеалов Передвижников, создающего, как Генрих Семирадский, поразительные но поверхностные работы, тогда как другие видели в нём предвестника Русского импрессионизма.
В 1915 году он участвует в учреждении Общества возрождения художественной Руси, наряду со многими другими художниками своего времени.
Маковский стал жертвой несчастного случая (в его экипаж врезалась конка) и скончался в 1915 году в Санкт-Петербурге. Похоронен на Никольском кладбище Александро-Невской лавры (могила не сохранилась).