Ученик и продолжатель Петра Столярского, в доме которого осиротевший Мордкович жил в 1915-1920 гг. В предвоенные годы концертировал в Одессе как солист и во главе струнного квартета Музыкально-драматического института. По возвращении в Одессу из эвакуации в 1944 году посвятил себя преимущественно педагогической деятельности. Преподавал в Одесской консерватории (с 1972 года - профессор), а также в Музыкальной школе Столярского.
Среди наиболее значительных учеников Мордковича - Эдуард Грач, Ольга Каверзнева, Роза Файн, Валерий Климов, Дора Шварцберг, а также сын, в дальнейшем тоже профессор Одесской консерватории Леонид Мордкович и его жена Лидия Мордкович.