Родился 7 (19 июля) 1894 года в селе Кондрово (ныне Калужская область) в семье видного инженера-технолога Якова Гершеновича (Григорьевича) Хинчина (1858-1941), впоследствии управляющего Кондровскими бумажными фабриками, затем - профессора и заведующего отделом НИИ древесины и Института народного хозяйства.
В отроческие годы увлекался поэзией. В 1908-1914 годах в Калуге были изданы его 4 небольших сборника. Знакомил со своими произведениями А. Блока, известно письмо Блока Хинчину с одобрением его творчества.
На выбор жизненного пути Хинчиным, по его собственному признанию, решающее влияние оказало знакомство с учебником математического анализа, который он изучил самостоятельно.
Учился с 1911 года на физико-математическом факультете Московского университета. Стал одним из первых учеников Н. Н. Лузина.
В студенческие годы литературные увлечения сменились театральными: под влиянием МХАТа он создал в Кондрове из рабочей молодежи театральную труппу, для руководства которой брал уроки сценического мастерства.
Закончил Университет в 1916 году. Его преподавательская деятельность началась в 1918 году в Иваново-Вознесенске, куда он переехал с группой московских математиков во главе с Н. Н. Лузиным. Вскоре он стал первым деканом физико-математического факультета Иваново-Вознесенского педагогического института. В 1922 году вернулся в Москву, в созданный при Московском университете НИИ математики и механики.
В 1926 году он был приглашён заведовать кафедрой математического анализа II Московский государственный университет, а в 1927 году стал профессором в МГУ.
А. Я. Хинчин заведовал кафедрой математического анализа мехмата МГУ до 1957 года. Член-корреспондент АН СССР (1939). Действительный член Академии педагогических наук, один из её основателей (1943), автор трудов по методике преподавания математики. Лауреат Сталинской премии (Государственной премии СССР) второй степени (1941). Награждён четырьмя орденами, в том числе орденом Ленина (1953).
Скончался в Москве в 1959 году, похоронен на новом Донском кладбище.
Ранние работы Хинчина были сосредоточены на математическом анализе. Позднее он применил методы метрической теории функций к задачам теории вероятностей и теории чисел. Он стал одним из основателей современной теории вероятностей. Одним из значительных результатов, принесших Хинчину мировую славу выдающегося математика, является формула Леви-Хинчина (англ.) для характеристической функции процесса в теории стохастических процессов Леви. Хинчиным получены важные результаты в области предельных теорем, открыт закон повторного логарифма. Он является создателем теории случайных процессов (совместно с А. Н. Колмогоровым) и теории массового обслуживания.
В теории функций А. Я. Хинчин одновременно с Данжуа создал теорию аппроксимативных производных и обобщил понятие интеграла.
В теории чисел А. Я. Хинчину принадлежат работы по метрической теории чисел и теории диофантовых приближений. Хорошо известны фундаментальные результаты Хинчина, относящиеся к проблеме приближения действительных чисел рациональными числами.
А. Я. Хинчин - один из самых блестящих представителей Московской математической школы. Им получены основополагающие результаты в теории функций действительного переменного, теории чисел, теории вероятностей, статистической физике. Научное наследие Хинчина включает, в частности, 4 монографии по теории вероятностей, 3 - по статистической физике, 2 - по теории чисел.