В начале войны Джонс вступил в 1-й вирджинский кавалерийский полк в звании капитана и стал командовать ротой, которую самостоятельно набрал и в которой тогда служил рядовым Джон Мосби. 9 мая он получил звание майора вирджинской армии, а через месяц его полк был включен в армию Конфедерации. В июле 1861 года Джонс принял участие в первом сражении при Бул-Ране, где его полком командовал Джеб Стюарт. Через месяц он получил звание полковника и стал командиром 1-го вирджинского полка.
В конце 1861 года в армии прошла реорганизация, во время которой рядовые переизбирали своих офицеров. Джонс не был переизбран командиром 1-го вирджинского и вместо этого ему передали 7-й вирджинский кавалерийский полк. Он служил с этим полком в Западной Вирджинии, а в марте 1862 года стал командовать всей кавалерией в дистрикте долины Шенандоа (так наз. "Valley District").
Во время кампании на полуострове Джонс участвовал в рейде Стюарта вокруг армии МакКлеллана, затем участвовал в Северовирджинской кампании и был ранен 2 августа при Орандж-Кортхауз. 19 сентября 1862 года он получил звание бригадного генерала, а 8 ноября стал командовать 4-й бригадой в кавалерийской дивизии Стюарта.
Весной 1863 года Джонс и генерал Джон Имбоден провели рейд на линию железной дороги Балтимор-Огайо, к западу от Камберленда. Вернувшись из рейда, они соединились с другими бригадами Стюарта как раз к началу сражения у станции Бренди. Бригада Джонса вступила в бой одной из первых, попав под удар федеральной дивизии Джона Бьюфорда.
Во время Геттисбергской кампании бригады Джонса и Робертсона защищали проходы, ведущие в долину Шенандоа. 24 июня 1863 года перед тем как уйти в рейд по тылам противника, Стюарт выделил для рейда три бригады, оставив при армии только кавбригады Джонса и Робертсона. Лонгстрит хотел, чтобы Стюарт оставил вместо себя кого-нибудь более опытного, например, Хэмптона, но Стюарт отказался - в основном из-за своих сложных отношений с Джонсоном. Джонсону было поручено общее командование над двумя бригадами, однако Робертсон был выше его по званию, что несколько осложняло ситуацию.
Когда 25 июня Северовирджинская армия начала вторжение в Пенсильванию, бригады Робертсона и Джонса оказались в арьергарде, а правый фланг армии оказался открыт, хотя именно Джонс и Робертсон теперь отвечали за прикрытие армии. Им не удалось обеспечить разведку и обнаружить перемещение Потомакской армии, и в итоге, когда 28 июня генерал Ли узнал о наступлении противника, бригады Джонса и Робертсона оказались далеко в тылу без связи со штабом. Им был послан приказ срочно присоединиться к армии, в итоге только 1 июля Джонс перешел Потомак у Уильямспорта, оставив один полк охранять переправу и следить за федеральным гарнизоном в Харперс-Ферри. 3-го июля Ли поручил Джонсу охранять Хагерстаунскую дорогу, что привело к сражению при Фэирфилде, где бригада Джонса разгромила 6-й полк регулярной кавалерии США, захватив в плен командира этого полка майора Старра. Во время отступления армии от Геттисберга кавалеристы Джонса вели арьергардные бои, в частности, участвовали в сражении в Монтеррейском ущелье.
В октябре конфликты Джонса со Стюартом привели к тому, что Стюарт отдал его под трибунал за оскорбления. Трибунал признал его виновным, но генерал Ли вмешался лично и дело кончилось тем, что Джонса перевели в департамент Транс-Алленей в западной Вирджинии. Там Джонс набрал кавалерийскую бригаду и вместе с ней принял участие в боевых действиях в восточном Теннесси зимой и весной 1864 года. В мае он принял командование частями Конфедерации в долине Шенандоа и сражался с частями федерального генерала Дэвида Хантера при наступлении последнего на Линчберг. 5 июня 1864 года в сражении при Пьедмонте он возглавил атаку и был убит наповал пулей в голову.
Джонс похоронен на пресвитерианском кладбище церкви Олд-Глэйд-Спринг в Глэйд-Спринг, Вирджиния.