Анатолий Марченко родился 23 января 1938 года в городе Барабинске Новосибирской области в семье помощника машиниста железнодорожника Тихона Акимовича Марченко и Елены Васильевны Марченко. После окончания 8 классов уехал по комсомольской путёвке на строительство Новосибирской ГЭС. Получил специальность сменного бурового мастера. В дальнейшем работал на новостройках сибирских ГЭС, на рудниках и в геологоразведке в Томской области и на Карагандинской ГРЭС.
В 1958 году после массовой драки в рабочем общежитии между местными рабочими и депортированными чеченцами, в которой не участвовал, был арестован и приговорён к двум годам заключения в Карагандинском исправительно-трудовом лагере (Карлаг). Отсидев год, совершил побег из мест заключения. Около года скрывался, не имея документов, перебивался случайными заработками и в итоге принял решение бежать за границу.
29 октября 1960 года был задержан при попытке перехода государственной границы СССР с Ираном. До суда содержался в следственной тюрьме Ашхабадского КГБ. 3 марта 1961 года Верховный Суд Туркменской ССР приговорил Анатолия Марченко к шести годам лагерей по статье за измену родине.
Освободился в ноябре 1966 года. Поселился в городе Александрове Владимирской области, работал грузчиком. Лагерное знакомство с писателем Юлием Даниэлем ввело его в круг московской инакомыслящей интеллигенции. В 1967 году написал книгу о советских политических лагерях и тюрьмах 1960-х гг. «Мои показания». По словам А. Даниэля, «Мои показания» появились в Самиздате уже в 1967 году. Книга получила широкое распространение в Самиздате, после передачи за рубеж была переведена на большинство европейских языков и стала первым развёрнутым мемуарным свидетельством о жизни советских политзаключённых в послесталинский период.
В 1968 году Марченко становится заметным публицистом Самиздата, участвует в правозащитном движении. 22 июля 1968 года выступил с открытым письмом, адресованным советским и иностранным газетам, а также радиостанции Би-би-си об угрозе советского вторжения в Чехословакию. Через несколько дней был арестован и 21 августа 1968 года по обвинению в нарушении паспортного режима приговорён к одному году заключения. Своё кратковременное пребывание на свободе и жизнь в Ныробском лагере позднее описал в автобиографической книге «Живи как все». Через год он на свободу не вышел: ему было предъявлено обвинение по статье 190-1 (распространение клеветнических измышлений, порочащих советский общественный и государственный строй), связанное с книгой Марченко «Мои показания». Приговорён к двум годам лагерей. К моменту вынесения приговора был достаточно известным диссидентом.
После освобождения в 1971 году поселился в городе Таруса, женился на Ларисе Богораз. Продолжал правозащитную и публицистическую деятельность. С момента выхода на свободу власти принуждали Марченко к эмиграции, в случае отказа угрожая новым арестом.
Марченко не уехал, и его преследования продолжались. Пятая судимость по статье ст. 198-2 УК РСФСР (злостное нарушение правил административного надзора). Приговорён к 4 годам ссылки. Отбывал ссылку в Чуне, Иркутская область в Восточной Сибири с женой и ребёнком, во время этой ссылки Марченко становится членом Московской хельсинкской группы, подписывает обращение в Президиум Верховного Совета СССР с призывом к всеобщей политической амнистии в СССР, освободился в 1978 году.
В сентябре 1981 года был осуждён в шестой раз по ст. 70 УК РСФСР (антисоветская агитация и пропаганда). Приговорён к 10 годам в лагере строгого режима и 5 годам ссылки.
4 августа 1986 года Анатолий Марченко объявил голодовку с требованием освободить всех политзаключённых в СССР. С 12 сентября 1986 года был подвергнут насильственному кормлению ежедневно, кроме воскресенья. В связи с этим Марченко обращался с письмом к Генеральному Прокурору СССР, обвиняя медицинских работников тюрьмы в применении пыток.
Питательная смесь приготавливается умышленно с крупными кусочками-комочками из пищевых продуктов, которые не проходят через шланг, а застревают в нём и, забивая его, не пропускают питательную смесь в желудок. Под видом прочистки шланга мне устраивают пытки, массажируя и дёргая шланг, не вынимая его из моего желудка.
…
Как правило, всю эту процедуру проделывает один медработник. Он поэтому не в состоянии при заливке смеси размешивать её, так как у него уже заняты обе руки: одной он держит шланг, а другой он заливает в неё из миски смесь. Повторяю, что в данном случае под видом гуманного акта советские власти в лице медчасти тюрьмы подвергают меня физическим пыткам с целью принудить прекратить голодовку.
Голодовку Марченко держал 117 дней. Через 12 дней после выхода из голодовки Марченко почувствовал себя плохо, из тюрьмы был направлен в местную больницу. Он скончался в больнице Чистопольского часового завода 8 декабря 1986 года в 23 часа 50 минут. Захоронение тела было произведено в могиле номер 646. При захоронении присутствовали родственники.
Смерть Марченко имела широкий резонанс в диссидентской среде СССР и в зарубежной прессе. По одной из распространённых версий, его смерть и реакция на неё подтолкнули Михаила Горбачёва начать процесс освобождения заключённых, осуждённых по «политическим» статьям.
Похоронен на кладбище в городе Чистополе.