В начале 1976 года ему, как одному из лучших лётчиков части, предложили поступить в отряд космонавтов. Уже в мае он прошёл медицинскую комиссию и был допущен к спецподготовке.
23 августа 1976 года приказом Главкома ВВС № 686 Анатолий Соловьёв вместе с другими восемью лётчиками был зачислен слушателем-космонавтом в отряд космонавтов ЦПК имени Ю. А. Гагарина (6-й набор в отряд космонавтов ЦПК). Группа была набрана с целью подготовки пилотов по программе «Буран». Подготовка группы отличалась от обычной тем, что лётчики должны были в кратчайшие сроки получить квалификацию испытателей.
С августа 1976 по январь 1979 год Анатолий Соловьёв находился на общекосмической подготовке. В соответствии с программой, с января по июнь 1977 года он прошёл курс обучения в 267-м Центре испытания авиационной техники и подготовки лётчиков-испытателей в районе города Ахтубинска. Там он освоил самолёты МиГ-17, Ту-134М, Як-40, МиГ-21У, МиГ-21ВС, МиГ-21МД, МиГ-21бис. 29 июня 1977 года ему присвоена квалификация «Лётчик-испытатель 3 класса». В августе того же года Анатолий Соловьев прошёл специальную парашютную (35 прыжков) и водолазную подготовку, после чего ему была присвоена квалификация «Офицер-водолаз».
В 1978 году Анатолий Соловьёв завершил общекосмическую подготовку и в январе 1979 года был назначен космонавтом-испытателем в группу авиационно-космических средств ОК ЦПК. Во время подготовки в группе по программе «Буран» Соловьёв продолжил испытательную работу, и 22 июня 1981 года ему была присвоена квалификация «Лётчик-испытатель 2-го класса».
В январе 1982 года его перевели в группу международных космических программ. В 1983-1985 гг. А. Соловьёв готовился к полету в качестве командира резервного экипажа по программе основной экспедиции на станцию «Салют-7» вместе с А. Серебровым и Н. Москаленко.
В 1985-1986 годы он проходил подготовку в качестве командира резервного экипажа КК «Союз Т-15» вместе с В. Савиных.
С сентября 1986 по июль 1987 года он готовился уже в качестве командира второго экипажа КК «Союз ТМ-З» вместе с В. Савиных и М. Хабибом (Сирия). 22 июля 1987 г. он был дублёром А. Викторенко.
За участие в подготовке дублирующего советско-сирийского экипажа А. Соловьёву присвоили почётное звание кавалера ордена «Воинская слава» Сирийской Арабской Республики. Он также был награждён сирийским орденом Дружбы и Сотрудничества.
С ноября 1987 по май 1988 года он готовился уже в качестве командира первого экипажа КК «Союз ТМ-5» вместе с В. Савиных и А. Александровым (Болгария).
Первый космический полёт Анатолий Соловьёв совершил на корабле «Союз ТМ-5» и ОК «Мир» с 7 по 17 июня 1988 года вместе с В. Савиных и А. Александровым (Болгария) в качестве командира экипажа. Длительность полёта: 9 сут 20 ч 9 мин 19 с. Позывной «Родник-1».
Таким образом, Анатолий Соловьёв стартовал в космос после 12 лет напряжённейшей подготовки. После полёта командиру экипажа было присвоено звание Героя Советского Союза с вручением медали Золотая Звезда и ордена Ленина, а также присвоено почётное звание «лётчик-космонавт СССР» и квалификация «Космонавт 3-го класса».
Анатолию Соловьёву было также присвоено звание Героя Народной Республики Болгария и вручёны Золотая Звезда и орден Г. Димитрова. Воинское звание «полковник» он также получил после своего первого полёта - 18 июня 1988 года.
С декабря 1988 по апрель 1989 года Анатолий Соловьёв проходил подготовку в качестве командира второго экипажа по программе 5-й основной экспедиции на ОК «Мир» сначала вместе с А. Баландиным, а с февраля 1989 - вместе с А. Серебровым. После переноса запуска на сентябрь вновь продолжил подготовку с А. Баландиным. С сентября 1989 года А. Соловьев был дублёром командира КК «Союз ТМ-8» А. Викторенко.
В сентябре 1989 года Анатолий Соловьёв начал новую подготовку к полёту на ОК «Мир» в качестве командира первого экипажа по программе ЭО-6 вместе с А. Баландиным.
В апреле 1990 года Анатолий Соловьёв был назначен командиром второй группы космонавтов, одновременно оставаясь космонавтом-испытателем ОК ЦПК. Эту должность Соловьёв занимает до сих пор.
Второй космический полёт Анатолий Соловьёв совершил с 11 февраля по 9 августа 1990 года на корабле «Союз ТМ-9» и ОК «Мир» по программе ЭО-6 вместе с А. Баландиным. За время полёта выполнил два выхода в открытый космос общей продолжительностью 10 часов 47 минут. Оба выхода были внеплановыми. Первый был необходим для ремонта экранно-вакуумной теплоизоляции «Союза ТМ-9», повреждённой при перестыковке корабля с кормового на носовой стыковочный узел. Второй - для закрытия выходного люка на «Кванте-2», повреждённого во время предыдущего выхода. Длительность полёта: 179 сут 1 ч 17 мин 57 с.
31 августа 1990 года ему присвоена квалификация «Космонавт 2-го класса».
В 1990-1991 годах проходил подготовку в группе в качестве командира условного экипажа для полёта на станцию «Мир» вместе с А. Зайцевым.
11 января 1991 года А. Соловьёв назначен на должность инструктора-космонавта-испытателя, оставаясь командиром 2-й группы.
С 19 мая по июнь 1991 года Анатолий проходил подготовку в качестве командира резервного экипажа ЭО-10 вместе с А. Зайцевым, но в связи с решением о совмещении австрийского и казахского полётов экипаж был расформирован.
С 9 октября 1991 по 25 февраля 1992 года готовился для полёта на ОК «Мир» по программе ЭО-11 в качестве командира второго экипажа ЭО-11 и КК «Союз ТМ-14» вместе с С. Авдеевым и Р. Эвальдом (ФРГ).
С 5 апреля по 7 июля 1992 года он готовился по программе ЭО-12 в качестве командира первого экипажа КК «Союз ТМ-15» вновь вместе с С. Авдеевым, а также с М. Тонини (Франция).
Свой третий космический полёт Анатолий Соловьёв совершил с 27 июля 1992 по 1 февраля 1993 года на КК «Союз ТМ-15» и ОК «Мир» в качестве командира ЭО-12 вместе с С. Авдеевым и М. Тонини (Франция). Работал на станции с А. Викторенко и А. Калери, Г. Манаковым и А. Полещуком.
За время полёта совершил 4 выхода в открытый космос общей продолжительностью 18 часов 21 минут, во время которых на ферме «Софора» смонтировал выносную двигательную установку. Длительность полёта: 188 сут 21 ч 41 мин 15 с.
31 марта 1993 года А. Соловьёву присвоена квалификация «Космонавт 1-го класса». 1 апреля 1994 года решением МВК под председательством Ю. Коптева Анатолий Соловьёв утверждён командиром первого экипажа ЭО-19 и второго экипажа ЭО-18.
С мая 1994 по февраль 1995 года А. Соловьёв прошёл непосредственную подготовку к полёту по программе ЭО-18 в качестве командира второго экипажа вместе с Н. Будариным, а с 1 ноября 1994 года к ним присоединилась Б. Данбар (США).
14 марта 1995 года А. Соловьёв был дублёром командира КК «Союз ТМ-21» В. Дежурова.
27 марта А. Соловьёв вместе с Н. Будариным продолжил подготовку к полёту по программе ЭО-19, которая завершилась 12 мая. А с 15 мая по 27 июня А. Соловьёв проходил подготовку в Космическом центре имени Л. Б. Джонсона в составе экипажа «Атлантиса» (полёту STS-71), на котором он должен стартовать.
Свой четвёртый космический полет Анатолий Соловьёв начал на МТКК «Атлантис», стартовавшем 27 июня 1995 года с космодрома им. Кеннеди по программе STS-71. Кроме бортинженера ЭО-19 Николая Бударина на борту шаттла стартовали астронавты NASA Х. Гибсон, Ч. Прекурт, Е. Бейкер, Г. Харбо и Б. Данбар. Через два дня шаттл пристыковался к «Миру». А. Соловьёв принял смену у Владимира Дежурова и Геннадия Стрекалова (ЭО-18). Полёт на «Мире» был по современным меркам недолгим - немногим более двух месяцев. За это время А. Соловьёв выполнил 3 выхода в открытый космос общей продолжительностью 14 ч 32 мин. Сдав смену Юрию Гидзенко и Сергею Авдееву, А. Соловьев с Н. Будариным на корабле «Союз ТМ-21» 11 сентября возвратились на Землю. Длительность полёта составила 75 сут 12 ч 20 мин 21 с.
После полёта налёт Анатолия Соловьева составил 453 суток 7 часов 28 минут 52 секунды, и он перешёл на 5-е место в мире по суммарной длительности полётов.
С мая по август 1996 года он был первым от ЦПК координатором подготовки в NASA российских космонавтов. Это ответственное назначение было сделано с целью наилучшей адаптации А. Соловьёва для работы с американцами. Его предполагалось назначить командиром первого экипажа на МКС. «Поработав» в NASA, Анатолий Соловьёв понял, что он, один из наиболее опытных российских космонавтов, космический налёт которого в несколько раз превосходит налёт любого американского астронавта, попадает в подчинение Уильяму Шеперду, объявленному NASA командиром экспедиции. Роль Соловьёва сводилась к доставке экипажа на МКС и управлению кораблём при возвращении на Землю. Такое положение А. Соловьева не устроило, и он отказался быть членом экипажа МКС. В сентябре на его место был назначен менее опытный Юрий Гидзенко, а Соловьёв начал подготовку в качестве командира только что сформированного экипажа 24-й экспедиции и французской программы «Пегас» вместе с Павлом Виноградовым и Леопольдом Эйартцем. В связи с аварийным состоянием станции и невозможностью выполнения французской научной программы космонавт-исследователь был выведен из экипажа на заключительном этапе подготовки.
С 5 августа 1997 по 19 февраля 1998 года совершил свой пятый космический полёт в качестве командира ОК «Мир» вместе с Павлом Владимировичем Виноградовым. Во время полёта совершил семь выходов в открытый космос общей продолжительностью 35 часов 8 минут. Продолжительность полёта составила 197 суток 17 часов 34 минуты 36 секунд.
Суммарный налёт Анатолия Соловьёва в космосе за 5 полётов составил 651 сутки 0 часов 3 минуты 28 секунд. Он совершил 16 выходов в открытый космос общей продолжительностью 78 часов 48 минут. Это является мировым рекордом.
За время лётной работы он освоил 14 типов самолётов, имеет налёт более 1500 часов. Инструктор парашютно-десантной подготовки, выполнил более 140 прыжков с парашютом.