Окончил Загребский университет, по специальности - географ. Однако увлечение музыкой и пением привело его в 1954 году на эстраду. Ивица стал солистом радио и телевидения в Загребе. С тех пор он - популярный певец, имя которого было известно во многих странах мира.
Первые концерты Ивица проводил на танцплощадках студенческих клубов, но наиболее успешным стало выступление на стадионе ФК «Динамо», где он выступал вместе с Доменико Модуньо.
Всего он записал за свою жизнь 15 золотых пластинок и миллион копий в сотрудничестве с композитором Никицо Калольеро и в дуэте с Люпкой Димитровской. В 1960-е годы создал карьеру, получив статус знаменитости не только в родной стране, но и в других странах: СССР, ГДР, Чехословакия, Канада, США (там он даже записал альбом) и других.
Ивица Шерфези провёл много гастрольных туров по всему миру. Его знали в СССР по его неоднократным выступлениям, которые проходили всегда с огромным успехом. В программе молодого артиста были песни о любви и югославские народные песни.
Шерфа (или Шериф), как называли его друзья, был также успешным спортсменом: он играл в теннис и гольф, был постоянным гостем на спортивных аренах и заядлым футбольным и хоккейным болельщиком.
Во время военного конфликта 1990-х годов на территории бывшей Югославии Ивица Шерфези присоединяется к «Хорватскому Музыкальному Союзу» - некоммерческой гуманитарной организации, которая проводила концерты для помощи пострадавшим и выступал с другими музыкантами в концерте «Моя Родина» (по международному признанию независимости Хорватии) 16 января 1992 года в зале «Лисинский».
Гроб Ивицы Шерфези на кладбище Мирогой в Загребе.
Шерфези был сторонником здорового образа жизни, но в последние годы его стал беспокоить желудок. В феврале 2004 года врачи посоветовали провести операцию. Она была выполнена. Увы, диагноз был весьма неблагоприятным, так как у Шерфези был обнаружен рак. Мужественный музыкант не сдался, и поэтому сразу же в марте отправился на химиотерапию, и после этого, в апреле уже вернулся на музыкальную сцену. О его состоянии здоровья знали только родственники и близкие друзья.
В последние годы Ивица Шерфези выступал в сопровождении вокально-инструментального ансамбля «Загреб», которым руководил Слободан Момчилович.
За восемь дней до смерти, Ивица совместно с немецкой певицей Дагмар Фредерик выступал в Дубровнике. Ни один из посетителей концерта даже не подозревал, что с ним было не всё в порядке. У Шерфези вместе с Фредерик было запланировано совместное турне по бывшей Восточной Германии, где он был отлично известен и уважаем, о чем свидетельствует тот факт, что на концерт в Дрездене были распроданы все билеты.
Ивица Шерфези умер 28 мая 2004 года, похоронен на Мирогойском кладбище в Загребе.