Хорст Хрубеш начал карьеру в полулюбительских клубах «Хам», «Хаммер» и «Вестюннен». В 1975 году Хрубеш перешёл в клуб «Рот-Вайсс» (Эссен), за который он провёл 3 сезона, последний во второй бундеслиге, куда вылетел «Рот-Вайсс», там Хрубеш стал лучшим снайпером забив в 35-ти матчах 42 гола. После этого за Хрубеша разгорелась борьба между «Гамбургом» и «Айнтрахтом» из Франкфурта, в котором, всё же выиграл «Гамбург». В 1981 году в Гамбург пришёл Эрнст Хаппель, с этого периода начинается расцвет клуба и самого Хрубеша, который в 1982 году стал лучшим бомбардиром немецкого первенства, забив 27 мячей, а «Гамбург» лучшим клубом Германии, до этого дважды, в 1980 и 1981 году, занимавший вторые места в первенстве, а решающий гол, принёсший победу, Хрубеш забил 24 апреля в ворота «Баварии» на 90-й минуте игры, сделав счёт 4:3. В следующем году Гамбург вновь выиграл чемпионство, но более значимым стала победа в кубке европейских чемпионов, в финале которого был обыгран грозный «Ювентус», ведомый Мишелем Платини. В 1983 году, после успеха в кубке чемпионов, Хрубеш покинул Германию и уехал в Бельгию, где выступал за клуб «Стандард», но там Хрубеш не блистал, забив за 2 года 17 голов в 43-х матчах. В 1985 году Хрубеш вернулся в Германию, в клуб «Боруссия» (Дортмунд), где Хрубеш получил тяжелую травму и решил завершить карьеру игрока. Правда, через сезон Хрубеш, будучи главным тренером клуба «Вестюннен», выходил на поле, чтобы помочь своей команде в тяжёлых матчах, этот клуб и стал для Хрубеша-футболиста последним.
В сборной ФРГ Хрубеш дебютировал 2 апреля 1980 года в Мюнхене в матче со сборной Австрии, который завершился победой немцев 1:0. Любопытно, что свой первый и второй голы за сборную Хрубеш забил в одном матче - в финале чемпионата Европы 1980, принеся победу своей команде 2:1. Через два года Хрубеш был, в составе немецкой команды, участником чемпионата мира, на котором забил единственный в матче гол с Австрией, а в полуфинале, после 120 минут матча, Хрубеш реализовал решающий пенальти, который вывел в сборную ФРГ в финал, проигранный итальянцам. Финал чемпионата мира 1982 стал последним матчем Хрубеша в футболке национальной команды.
В 1986 году Хрубеш начал тренерскую карьеру, возглавив свой бывший клуб «Рот-Вайсс Эссен», с которой он занял 10-е место во второй бундеслиге. Затем работал с разными командами - с «Вольфсбургом», с «Ганзой», с «Динамо» (Дрезден), с австрийскими клубами «Сваровски-Тироль» и «Аустрия» (Вена), с турецким «Самсунспором». С 2000 года Хрубеш возглавляет молодёжную сборную Германии, с котором он выиграл титул чемпиона Европы в возрасте до 19 лет, 26 июля 2008 года, обыграв в финале Италию 3:1. С 2009 года команда до 19 лет стала молодёжной сборной до 21 года, с которой вновь работает Хрубеш.