В 1976-1980 гг. работал в Секретариате ООН в Нью-Йорке.
С 1981 по 1991 гг. занимал дипломатические должности разного уровня в Министерстве иностранных дел СССР. После распада Советского Союза Константин Грищенко вернулся в Киев и начал работу в Министерстве иностранных дел независимой Украины.
С 1995 по 1998 гг. он занимал должность заместителя министра иностранных дел Украины ref> Указ Президента України від 09 березня 1995 № 196/95 «Про призначення К.Грищенка заступником Міністра закордонних справ України», занимаясь проблематикой контроля над вооружениями, разоружения, Европейской безопасности, СНГ, отношений с Россией, а также развитием внешней политики Украины на Ближнем Востоке, в Азии и Тихоокеанском регионе. Константин Грищенко сыграл ключевую роль в заключении ряда сверхважных международных соглашений, которые были призваны укрепить территориальную целостность, безопасность и независимость Украины. Именно в это время им была основана масштабная программа подготовки украинских дипломатов в странах Европейского Союза и США. Большинство выпускников программы в настоящее время занимают достойное место среди лучших дипломатов Украины.
В 1998-2000 гг. Константин Грищенко – Посол Украины в Бельгии, Нидерландах и Люксембурге, Глава Миссии нашей страны при НАТО и Постоянный Представитель при Организации по запрещению химического оружия (на английском: OPCW) в г. Гаага (Нидерланды).
В 2000-2003 гг. он был назначен Послом Украины в США. В 2001 году Константин Грищенко также занял должность Посла нашей страны по совместительству в Антигуа и Барбуде.
С 2003 по 2005 гг. Константин Грищенко – в должности Министра иностранных дел Украины.
Будучи министром иностранных дел, Константин Грищенко сосредоточил усилия на Европейской интеграции Украины, укреплении связей с Вашингтоном и налаживании прагматического взаимодействия с Россией. В 2003 году он публично выступил против присоединения нашей страны к Единому Экономическому Пространству с Российской Федерацией, Казахстаном и Беларусью. Дипломат, вместе с рядом членов Правительства Украины, аргументировал такую позицию тем, что такое решение противоречило бы Конституции Украины.
В непростое время кризиса в украинско-российских отношениях вокруг острова Тузла в 2003 году, Константин Грищенко применил все имеющиеся дипломатические инструменты чтобы противостоять посягательствам Москвы на украинскую территорию и вернуться к более привычному партнерскому формату отношений с Российской Федерацией.
В 2006-2007 гг. Константин Грищенко работал Советником по вопросам внешней политики Премьер-министра Украины.
После досрочных выборов в Верховную Раду Украины в 2007 году, Константин Грищенко вошел в состав Оппозиционного правительства Украины как теневой Министр иностранных дел.
В апреле 2008 года, на фоне углубления кризиса в отношениях с Россией, Президент Украины Виктор Ющенко назначил Константина Грищенко первым заместителем Секретаря Совета национальной безопасности и обороны Украины), а в июне того же года – Послом Украины в Российской Федерации. В то же время, он продолжал выполнять полномочия первого заместителя Секретаря Совета национальной безопасности и обороны Украины, что придавало ему особый статус в системе органов государственной власти, занимались отношениями нашей страны с Россией.
Основные взгляды украинского Посла в Москве Константина Грищенко были изложены в его статье под названием «Украина-Россия: государство и личность», напечатанной в украинском еженедельнике «Зеркало Недели»: «...корни многих конфликтов и противоречий в украинско-российских отношениях кроются в одном, ранее не для всех очевидном факте: за годы после распада СССР мы, сохраняя множество общих интересов, стали сильно отличаться и по модели общественного развития, и по мировоззрению.Осознание этих объективных различий должно удерживать и Москву, и Киев от попыток поучать друг друга, намерений навязывать соседу свою модель развития как единственно правильную» .
Принимая участие в теледебатах с Дмитрием Рогозиным (тогдашним Послом России при НАТО), Константин Грищенко заявил об использовании Российской Федерацией некорректной идеологии для характеристики отношений с Киевом. Он подчеркивал необходимость постоянного обсуждения сложных вопросов отношений с Россией с целью их решения и заключения соответствующих соглашений, которые должны выполняться обеими сторонами. Это, по его мнению, было гораздо рациональнее обострения существующих проблем и создания новых. Отвечая на вопрос о присоединении Украины к НАТО, Константин Грищенко заявил, что не видит в обозримой перспективе возможности членства, однако подчеркнул, что такое решение будет принимать не Москва, Брюссель или Вашингтон, а исключительно народ Украины на референдуме.
После президентских выборов 2010 года, Константин Грищенко во второй раз назначается Министром иностранных дел Украины.
Уже весной 2010 года Константин Грищенко начал непростую работу по нейтрализации опасных тенденций в отношениях с Россией. Он проводил прагматичную политику, в основе которой лежали национальные интересы Украины, убирая эмоциональную и идеологическую составляющую отношений. В свою очередь, был сделан акцент на тех направлениях сотрудничества с Россией, где взаимодействие приносило сторонам большую выгоду, чем конфликт. Это позволило вдвое увеличить экспорт Украины на российский рынок и начать исторический процесс демаркации границы с Россией в Крыму. Улучшение в отношениях с Москвой позволило значительно ослабить административное и полицейское давление на миллионы граждан Украины и наемных рабочих, проживающих в России. Нормализация украинско-российских отношений побудила осторожных европейцев к более решительным шагам в заключении Соглашения Об ассоциации с Украиной. Другим важным направлением внешней политики Константина Грищенко было устранение визовых барьеров для украинцев. Под руководством Министра лишь за два года украинским дипломатам удалось договориться о безвизовом режиме с Израилем, Турцией, Бразилией и Аргентиной.
Сам Константин Грищенко описал тогдашнюю внешнюю политику Украины следующим образом: «Европейская политика Украины должна быть приоритетом, однако реализовываться прагматично. Вполне понятно, что современная Украина – государство с европейским призванием, но наш путь в Европу будет несколько отличаться от пути новых стран-членов ЕС. Это будет путь внутренних трансформаций согласно европейским нормам и в стратегическом партнерстве с ЕС и Россией. Однако мы также стремимся к развитию взаимодействия с теми регионами мира, где наблюдаем бурное экономическое развитие, стремление к взаимодействию с Украиной и уважение к ее национальным стремлениям» .
В этот период удалось завершить переговоры с ЕС по Соглашению Об ассоциации (2012 год) и окончательно согласовать План безвизового режима с Европой. Особое значение было уделено экономической дипломатии. Обособленные ранее и крайне неэффективные торговые миссии были полностью интегрированы в структуры посольств, а при самом МИД был создан Совет экспортеров для продвижения украинских товаров и компаний на международных рынках.
В декабре 2012 года Константин Грищенко был назначен Вице-Премьер-министром Украины. Он получил уникальную возможность использовать многолетний международный опыт для решения внутренних социальных проблем в Украине. В его компетенцию входили образование и наука, здравоохранение, культура, молодежь и спорт.
На этом посту Константин Грищенко сосредоточил внимание на усиление государственного надзора за качеством лекарств. В 2013 году Украина перешла на стандарты ЕС в производстве лекарств, в частности стандартов Надлежащей производственной практики (НПП) и Целесообразной практики распределения (ЦПР) лекарств. Украина первой ратифицировала Конвенцию Совета Европы «О противодействии фальсификации лекарственных средств и аналогичных преступлений, несущих угрозу общественному здоровью» и впервые на постсоветском пространстве ввела уголовную ответственность за подделку лекарственных препаратов. Была значительно упрощена процедура предоставления обезболивающих лекарств срочным больным. Особого значения Константин Грищенко придавал упрощению доступа к медицинской помощи в национальных масштабах, а также принятию Проекта общегосударственной целевой социальной программы противодействия ВИЧ / СПИД на 2014-2018 гг.
На должности Вице-Премьер-министра, Константин Грищенко неоднократно прилагал усилия к защите интересов граждан Украины в непростых ситуациях. В июле 2013 года, во время крайне сложной поездки в Ливию, дипломат обеспечил освобождение 19 украинцев из плена боевиков в г. Бенгази. 27 февраля 2014 Константин Грищенко ушел с должности Вице-Премьер-министра Украины.
В апреле 2015 года Константин Грищенко вошел в состав Оппозиционного правительства Украины в качестве теневого Министра иностранных дел.. Оппозиционное правительство работает над разработкой альтернативного видения развития Украины, которое смогло бы обеспечить решение глубокого политического и экономического кризиса, а также кризиса безопасности, которые угрожают самому существованию украинской нации. В сфере внешней политики необходимо сформировать новое видение укрепления независимости и восстановления территориальной целостности Украины, предложить реалистичные подходы для остановки военного противостояния и зарождения политического диалога на Востоке Украины. Нужно восстановить экономическую дипломатию как инструмент возрождения активных позиций Украины в международной торговле. Украинская дипломатическая служба должна стать инструментом достижения наших национальных целей и стремлений.