Карл Гебгардт родился 8 июля 1778 года. В военную службу вступил в 1794 году в полевую пешую артиллерию.
Принимал участие в Отечественной войне 1812 года. По окончании военных действий был назначен членом Военно-учёного комитета.
В 1816 году Гебгардт при участии председателя Военно-учёного комитета Гогеля и полковника Фицтума опубликовал в городе Санкт-Петербурге брошюру под заглавием: «Основание артиллерийской и понтонной науки».
В 1818-1819 годах Гебгардт был директором Тульских оружейных заводов.
18 апреля 1826 года Гебгардт был произведён в генерал-майоры. В 1828 году награждён орденом Святого Владимира 3-й степени и 25 декабря того же года получил орден Святого Георгия 4-й степени (№ 4195 по кавалерскому списку Григоровича - Степанова). В 1839 году награждён орденом Святого Станислава 1-й степени.
Членом Военно-учёного комитета Гебгардт оставался до самой смерти, последовавшей 7 апреля 1841 года в Санкт-Петербурге, Карл Карлович Гебгардт был похоронен на Волковом лютеранском кладбище.