Родился 24 июня (6 июля) 1896 года в Риге в рабочей семье, которая вскоре семья переехала в Санкт-Петербург.
Среднее образование получил в реальном училище, которое закончил в 1913 году; в 1921 году окончил механический факультет Петроградского технологического института и до 1930 работал на разных промышленных предприятиях СССР. По другим данным - был оставлен на кафедре металлографии и термической обработки, где проработал до 1930 года.
В 1930-1942 годах Одинг - профессор Ленинградского политехнического института. В 1937 году защитил докторскую диссертацию, в 1938 году ему было присвоено звание профессора. В 1941 году, во время Великой Отечественной войны, Одинг участвовал в обороне города - работал в институте, а после работы выходил на дежурства по городу. С конца февраля 1942 года Иван Августович работал на Невском машиностроительном заводе, который в июле 1942 года был эвакуирован из Ленинграда в Москву. С этого года учёный года жил и работал в Москве: был директором ЦНИИ технологии и машиностроения (1942-1947); заместителем директора Института машиноведения Академии наук СССР (1947-1953); заведующим лаборатории и затем - заместителем директора Института металлургии им. А. А. Байкова АН СССР (1953-1964) (одновременно - заведующий кафедрой технологии металлов Московского энергетического института, 1942-1964). С 1947 года И. А. Одинг был заместителем секретаря отделения технических наук Академии наук СССР.
Жил в Москве на улице Большая Ордынка, 34/38. Умер 7 мая 1964 года в Москве.