Urodził się 29 października 1924 we Lwowie. Uczył się w VIII Państwowym Gimnazjum im. Króla Kazimierza Wielkiego. Co ciekawe, po rozpoczęciu okupacji niemieckiej nie opuścił miasta, a nawet zdecydował się uczęszczać na tajne komplety. W wieku niespełna 19 lat roku należał do Armii Krajowej. By utrzymać siebie i rodzinę pracował jako karmiciel wszy w Instytucie prof. Rudolfa Weigla i sprzedawca w sklepie z materiałami metalowymi. Studia rozpoczął na konspiracyjnym lwowskim Uniwersytecie Jana Kazimierza. Nie mógł ich dokończyć, ponieważ wyemigrował do Krakowa chwilę przed wkroczeniem do miasta Armii Czerwonej. Tam nie próżnował. Uczestniczył w wykładach na Uniwersytecie Jagiellońskim i Akademii Sztuk Pięknych, studiował też ekonomię na Akademii Handlowej. Z zebranych informacji wynika, że cały czas prowadził działalność konspiracyjną w AK.
Był całkowicie przeciwny idei socrealizmu. To spowodowało, że musiał zrezygnować z pracy publicysty i czepiał się różnych zawodów. Pracował jmiędzy innymi jako kalkulator chronometrażysta w Inwalidzkiej Spółdzielni Emerytów Nauczycieli „Wspólna Sprawa” oraz starszy asystent w Centralnym Biurze Studiów i Projektów Przemysłu Torfowego. Sytuację zmieniła odwilż polityczna w 1956 roku, która pozwoliła Herbertowi na wydanie debiutanckiego tomu poezji „Struna światła”. Otrzymane stypendium ze Związku Literatów Polskich umożliwiło mu możliwość podróżowania po Europie, a następnie świecie. Kolejnymi wydanymi przez niego tomikami były: „Hermes, pies i gwiazda”, „Studium przedmiotu”, „Napis”. W 1974 roku zainicjował powstanie Pana Cogito – tytułowego bohatera tomiku o tej samej nazwie. Przez tę postać poeta wyrażał swoje obawy i obserwacje na temat kondycji współczesnego świata, niejednokrotnie posługując się ironią. Od 1972 roku należał do międzynarodowego stowarzyszenia pisarzy PEN Club. Na stałe wrócił do Polski w 1981 roku, kiedy to wiązał nadzieje z ruchem Solidarności. Jego dzieła zostały oficjalnie objęte zakazem przez agendę Głównego Urzędu Kontroli Prasy, Publikacji i Widowisk. Publikował w podziemiu, stając się dla młodego pokolenia głosem wolności. Podczas pobytu w Paryżu poznał się z tłumaczką Katarzyną Dzieduszycką, z którą w 1968 roku wziął ślub. Małżeństwo przetrwało aż do śmierci pisarza.