Александр Иосифович Неусыхин родился 19 января (н. ст.) 1898 года в Москве, а раннее детство его прошло на Смоленщине в селе Борисовщина. Его отец был земским врачом, а мать - земской фельдшерицей. От родителей Александр получил прекрасное знание русской литературы, любовь к которой будет сопровождать его всю дальнейшую жизнь: «Это было для него не развлечением или отдыхом, а таким же, если не более важным путём постижения мира и человека, как и научное творчество».
Проучившись три года в Рижском реальном училище (1907-1910), с переездом матери в Ярославскую губернию в 1910 г. перешёл в Ростовскую гимназию. Там директором был историк, один из учеников П. Г. Виноградова - С. П. Моравский, а историю преподавал Е. А. Мороховец, открыто излагавший гимназистам материалистическое понимание истории. В гимназии, построенной на средства частного благотворителя, царили весьма либеральные взгляды, она пользовалась правом приглашать преподавателей по усмотрению педагогического совета.
Окончив в 1916 году гимназию с золотой медалью и с отметкой об особой склонности к гуманитарным наукам, Александр по воле отца поступил на Медицинский факультет Московского университета и проучился там два года, уделив особое внимание занятиям общей химией. В 1918 году Неусыхин перевёлся на Историко-филологический факультет, который как Историческое отделение факультета общественных наук окончил в конце 1921 года. Среди курсов, им прослушанных (опуская традиционные), - история христианства (Р. Ю. Виппер), история городского строя средних веков (Д. М. Петрушевский), история мировоззрений, учение о развитии общественных форм.
В Университете в результате экзамена по общему курсу средних веков Д. М. Петрушевский пригласил Неусыхина в число участников своего семинара. Оказав столь большую честь, Д. М. Петрушевский не обманулся и впоследствии высоко оценил способности одарённого студента, который стал одним из самых близких его учеников. В 1922 г. Неусыхин превосходно защитил дипломную работу по теме «Экономическая организация королевского поместья эпохи Каролингов по Capitulare de villis».
С октября 1920 года по ноябрь 1924 года А. И. Неусыхин работал в библиотеке Социалистической академии и в Институте Маркса и Энгельса в должности хранителя кабинета истории Франции, позднее - истории Германии и кабинета социологии, в 1924 году был зачислен научным сотрудником, а затем аспирантом и секретарём секции средневековой истории Института истории РАНИОН.
В феврале 1929 года защитил кандидатскую диссертацию «Общественный строй древних германцев», которая в том же году была издана в виде монографии. С 1927 по 1930 год Неусыхин работал доцентом средневековой истории Московского индустриально-педагогического института им. К. Либкнехта. В эти же годы сотрудничал в редакции Большой советской энциклопедии в качестве помощника редактора отдела западной истории, автор статей.
В 1931-34 гг. А. И. Неусыхин не имел возможности публиковаться, преподавать и вообще работать в научных учреждениях исторического профиля. В начале этого периода он работал старшим библиографом (по другим сведениям, научным консультантом) в музее Центра народоведения, а с ноября 1931 по июнь 1934 года - старшим научным сотрудником Всесоюзной ассоциации сельскохозяйственной библиографии при библиотеке им. В. И. Ленина, где в эти годы работали многие крупные историки и учёные других специальностей: Н. Н. Аблов, С. В. Бахрушин, С. Б. Веселовский, Е. А. Дояренко, О. А. Добиаш-Рождественская, В. Н. Дурденевский, Д. Д. Иванов, Б. П. Козьмин, Е. А. Косминский, Е. П. Кушева, И. С. Макаров, А. А. Мансуров, О. П. Маркова, С. П. Моравский, Е. Д. Никитин, А. А. Никишин, А. К. Покровская, Е. П. Подъяпольская, Т. И. Райнов, М. К. Рожкова, С. И. Протасова, М. Е. Сергеенко, К. В. Сивков, А. Н. Сперанский, В. В. Хижняков, И. В. Чехов, В. К. Яцунский и др.
В 1934 году после восстановления преподавания истории в вузах СССР, Неусыхин возвращается к научной и преподавательской деятельности. С марта 1934 года он состоял старшим научным сотрудником Государственной академии материальной культуры им. Н. Я. Марра, а с 1936 года - в Институте истории (с 1968 года - Институт всеобщей истории) Академии наук СССР. С 1934 года - профессор, с 1940 года - заведующий кафедрой средневековой истории Московского института истории, философии и литературы им. Н. Г. Чернышевского. Одновременно он преподавал историю средних веков в ряде московских вузов, в том числе на историческом факультете МГУ.
В 1941-1942 годах - в эвакуации в Томске. Преподавал и заведовал кафедрами в Томском государственном педагогическом институте и Томском государственном университете. В 1942-1943 годах находился в эвакуации в Свердловске. Преподавал в Уральском университете.
Докторская диссертация «Собственность и свобода в варварских Правдах» (1946). В 1949 году попал под обвинения в космополитизме, но не сильно пострадал благодаря поддержке В. П. Волгина.
СемьяОтец - Иосиф Яковлевич Неусыхин, врач.
Мать - Елизавета Алексеевна (Ревека Калмановна) Неусыхина, в девичестве Имянитова (?-1942), фельдшер.
Жена - Маргарита Николаевна (Нафтальевна) (1897-1982), в девичестве Кобленц. А. И. Неусыхин познакомился и подружился с семьёй Кобленцов ещё ребёнком .
Дочь - Елена Александровна (1924-1985), в замужестве Огнева, по образованию биолог.