Православный. Из потомственных дворян Подольской и Херсонской губерний. Землевладелец тех же губерний (10500 десятин).
Сын камергера Степана Александровича Гижицкого (1829-1905) и Марии Степановны Леонард (1838-1903).
В 1882-1887 годах учился в Петришуле. По окончании Александровского лицея в 1892 году по 1-му разряду, поступил младшим делопроизводителем в Государственную канцелярию, где пробыл до 1900 года. В 1896 году участвовал в коронационных торжествах императора Николая II, как секретарь Экспедиции церемониальных дел и в должности церемониймейстера Высочайшего двора.
Чины: камер-юнкер (1894), надворный советник (1899), камергер (1908), действительный статский советник (1911).
Общественную деятельность начал в 1894 году, будучи избранным почетным мировым судьей по Ананьевскому уезду Херсонской губернии, а также гласным уездного и губернского земских собраний. В 1900 году был назначен Ольгопольским уездным предводителем дворянства и почетным мировым судьей Ольгопольского судебно-мирового округа. В 1904 году избран Ананьевским уездным предводителем дворянства, но уже через два года вернулся на должность уездного предводителя дворянства в Ольгопольский уезд Подольской губернии.
Был почетным попечителем Ольгопольской учительской семинарии и председателем Ольгопольского уездного попечительства детских приютов. Кроме того, состоял членом Всероссийского аэроклуба, членом Всероссийского национального клуба, действительным членом Общества сельского хозяйства Южной России (с 1895). Был владельцем конного завода, основанного в 1895 году, при деревне Николаевке Исаевской волости Ананьевского уезда.
В 1907 году был избран членом Государственной думы от Подольской губернии. Входил во фракцию умеренно-правых, с 3-й сессии - в русскую национальную фракцию. Состоял членом комиссий: по запросам, продовольственной, о неприкосновенности личности, сельскохозяйственной, бюджетной, по направлению законодательных предположений, по местному самоуправлению.
В 1908 году ходатайствовал перед Столыпиным об открытии сокольских обществ в России, был старостой Союза русского сокольства. 31 ноября 1910 был избран членом Главного совета Всесоюзного национального союза, а на 1-м съезде ВНС в феврале 1912 - товарищем казначея ВНС. Состоял членом комитета по организации экспедиции к Северному полюсу и по исследованию русских полярных территорий.
В 1912 был переизбран в Государственную думу. Входил во фракцию русских националистов и умеренно-правых (ФНУП), после её раскола в августе 1915 - в группу сторонников П. Н. Балашова. Состоял членом комиссий: об охоте, по направлению законодательных предположений, о путях сообщений, по исполнению государственной росписи доходов и расходов, по запросам, по Наказу.
В годы Первой мировой войны состоял уполномоченным Красного Креста. В 1918 году вместе с Михаилом Львовичем Гижицким поддерживал гетмана Скоропадского, участвовал в Белом движении, входил в состав монархического «Союза верных».
После поражения Белых армий эмигрировал в Чехословакию, в 1921 году переехал во Францию. Участвовал в сокольском движении за рубежом: в 1920 году состоял членом инициативной группы по организации «Русского Сокола» в Праге, один из основателей и активный участник общества «Русский сокол в Ницце», состоял старостой Союза русского сокольства, в 1933 был избран его почетным членом. Также состоял председателем Лицеистского объединения на юге Франции.
Умер в 1938 году в Париже. Похоронен на кладбище Сент-Женевьев-де-Буа.