Происходил из старинного шотландского дворянского рода Грейгов, с 1764 года состоящего на русской службе. Второй сын адмирала Алексея Самуиловича Грейга.
21 июня 1836 года назначен пажом ко Двору Его Императорского Величества. 2 октября 1840 года зачислен для обучения в Пажеский корпус, 10 августа 1844 года произведён в камер-пажи.
10 августа 1845 года окончил Пажеской корпус и вышел корнетом в лейб-гвардии Конный полк. В июне - октябре 1849 года принял участие в походе в Венгрию, однако участия в кампании не принимал из-за её окончания. 3 ноября 1851 года назначен личным адъютантом к князю Александру Сергеевичу Меншикову, командующему войсками в Финляндии и начальнику Главного морского штаба. Неоднократно назначался состоять при генерал-адмирале Великом князе Константине Николаевиче.
9 января 1854 года командирован в распоряжение Главнокомандующего морскими и сухопутными силами в Крыму князя А. С. Меншикова. Принял участие в Крымской войне. Участвовал в сражении на Альме, после которого был направлен к императору Николаю I с донесением о сражении. С октября 1854 года находился в осаждённом Севастополе. В сражении под Инкерманом 24 октября отличился, был контужен в голову. После излечения, 15 ноября 1854 года, вернулся в Севастополь. 18 февраля 1855 года назначен сопровождать князя Меншикова в Силистрию и Николаев.
27 марта 1855 года назначен адъютантом к генерал-адмиралу Великому князю Константину Николаевичу, в последующие годы неоднократно сопровождал его в поездках и путешествиях.
8 апреля 1856 года назначен делопроизводителем Комитета для укрепления берегов Чёрного мора (с оставлением состоять при генерал-адмирале), 15 апреля произведён в полковники. 19 июня 1857 года назначен членом и делопроизводителем Комитета для составления устава береговой службы флота. С 4 декабря 1858 по 15 июня 1859 года временно исправлял должность вице-директора Комиссариатского департамента Морского министерства. С 22 декабря 1859 года - временно исправляющий должность вице-директора Канцелярии Морского министерства, с 19 сентября 1860 года - директор Канцелярии. 17 октября 1860 года произведён в генерал-майоры, с зачислением по адмиралтейству. 1 января 1862 года назначен в Свиту Его Величества.
Состоял членом нескольких комитетов:
- Комитета по преобразованию морских учебных заведений (со 2 февраля 1862 года; с 1 мая - председатель),
- Комитета для обсуждения вопроса о сооружении броненосного флота (с 21 октября 1862 года),
- Комитета железных дорог (с 29 декабря 1865 года).
28 мая 1866 года произведён в генерал-лейтенанты и назначен товарищем министра финансов и председателем Коммерческого и Мануфактурного советов, с оставлением по морскому ведомству. Неоднократно временно управлял министерством во время отсутствия министра. 6 июня 1866 года назначен сенатором, с оставлением в занимаемых должностях). 30 ноября 1871 года назначен членом Комитета для обсуждения вопроса о замещении должностей гражданского ведомства, занимаемых военными чинами, исключительно гражданскими чиновниками.
В 1870 году предложил идею создания Адмиралтейского сада в Санкт-Петербурге к 200-летию Петра I. Работы начались в июле 1872 года, исполнителем идеи был петербургский ботаник Э. Л. Регель.
1 января 1874 года назначен Государственным контролёром и членом Государственного совета (по должности). 31 марта 1874 года произведён в полные генералы.
Самуил Грейг, Государственный контролёр (около 1875)
На посту Государственного контролёра в целом продолжил и завершил политику реформ ревизионного ведомства, начатую в 1860-х годах его предшественником, Валерианом Татариновым. Являлся последовательным сторонником сокращения государственных расходов и перехода к протекционистской политике, расширения полномочий контрольных органов при надзоре за железнодорожным строительством. По его инициативе 21 февраля 1877 года, накануне русско-турецкой войны, был учреждён Полевой контроль, на который была возложена задача проводить фактические ревизии хозяйственных учреждений действующей армии и полевого казначейства.
В 1876 году избран почётным членом Петербургской Академии наук.
7 июля 1878 года назначен министром финансов (с оставлением генерал-адъютантом и сенатором), став преемником М. Х. Рейтерна, подавшего в отставку в знак несогласия с экономическими последствиями русско-турецкой войны. Его назначение немедленно вызвало критические отклики: ни в какой степени не будучи специалистом в области финансов и управления экономикой, в повседневной работе он всецело зависел от чиновников собственного министерства, которые продолжали курс прежнего министра. Единственное, что он смог сделать, будучи на посту министра финансов - это продолжать проводить начатую им ранее (ещё на должности Государственного контролёра) политику активного протекционизма.
В феврале 1880 года, после очередного покушения на Александра II, назначенный главой Временной распорядительной комиссии граф Михаил Лорис-Меликов взял курс на «привлечение общественного доверия». Чтобы добиться сочувствия власти со стороны благонамеренной части общества, Лорис-Меликов настоял на удалении из правительства наиболее одиозных министров. В рамках новой политики первым отставку получил министр народного просвещения граф Д. А. Толстой (которого сменил либерально настроенный министр А. А. Сабуров), а затем в отставку был отправлен и Грейг (27 октября 1880 года, с оставлением членом Государственного совета, генерал-адъютантом и сенатором). Сменивший Грейга в октябре 1880 года А. А. Абаза, в отличие от своего предшественника был известен как специалист, исключительно компетентный в данной области. К тому же, по своим убеждениям он был искренним сторонником политики Михаила Рейтерна. Таким образом, за два года нахождения Грейга на посту министра, политика министерства практически не претерпела заметных изменений.
28 марта 1880 года утверждён почётным гражданином города Севастополя. 12 декабря 1880 года зачислен в списки Корпуса пограничной стражи.
14 марта 1881 года командирован к королям Испании и Португалии с известием о вступлении на престол императора Александра III.
Умер 9 марта 1887 года в Берлине. Похоронен на Смоленском евангелическом кладбище в Санкт-Петербурге.