Генрих Рудольф Герц родился 22 февраля 1857 года в Гамбурге. Его отец, адвокат и в 1887—1904 годах сенатор Густав Фердинанд Герц (1827—1914), родился под именем Давид Густав Герц в весьма состоятельной еврейской семье. Мать Генриха Герца, урождённая Анна Элизабет Пфефферкорн (1835—1910), была дочерью армейского врача из Франкфурта-на-Майне Йоханнеса Пфефферкорна (1793—1850) и Сузанны Гадройтер (1797—1872). У Генриха было три младших брата и сестра.
Во время учёбы в гимназии при университете Гамбурга Генрих Герц проявил способности к наукам, а также к языкам, изучив арабский и санскрит. Он изучал науку и технику в Дрездене, Мюнхене и Берлине, где был студентом Кирхгофа и Гельмгольца. В 1880 году Герц получил степень доктора философии в Берлинском университете, и остался на последокторское обучение под руководством Гельмгольца. В 1883 году он занимает должность лектора теоретической физики в Университете Киля, а в 1885 году Герц стал полным профессором в Университете Карлсруэ, где он и сделал своё научное открытие о существовании электромагнитных волн.
У Герца всегда был глубокий интерес к метеорологии, вероятно, приобретённый в результате его контактов с Вильгельмом фон Бецольдом (он был профессором Герца по лабораторному курсу в Мюнхенском Политехникуме летом 1878). Герц, однако, не сделал особого вклада в данную область, за исключением некоторых ранних статей в качестве ассистента Гельмгольца в Берлине. Сюда входит исследование испарения жидкостей, разработка нового вида гигрометра, а также разработка графических средств для определения свойств влажного воздуха, подвергнутого адиабатическим изменениям.
В 1881—1882 Герц опубликовал две статьи по тематике, которая позже стала называться механикой контактного взаимодействия. Хотя Герц знаменит за свой вклад в электродинамику (о чём речь ниже), однако эти две статьи тоже не остались незамеченными. Они стали источником важных идей, и большинство статей, в которых рассматривается фундаментальная природа контакта, на них ссылаются. Жозеф Буссинеск сделал несколько важных критических замечаний по работам Герца, признавая при этом их огромную важность.
С 1885 по 1889 годы Герц работал профессором физики технического университета в Карлсруэ. Именно в эти годы он провёл свои знаменитые опыты по распространению электрической силы, доказавшие реальность электромагнитных волн. Аппаратура, которой пользовался Герц, может показаться теперь более чем простой, но тем замечательнее полученные им результаты. Источниками электромагнитного излучения у него были искры в разрядниках. Электромагнитные волны от разрядников вызывали искровые разряды между шариками в «приемниках» — расположенных в нескольких метрах контурах, настроенных в резонанс. Герцу удалось не только обнаружить волны, в том числе, и стоячие, но и исследовать скорость их распространения, отражение, преломление и даже поляризацию. Все это очень напоминало оптику, с тем только (весьма существенным!) отличием, что длины волн были почти в миллиард раз больше.
Чтобы лучше видеть искру в своих опытах, Герц поместил приёмник в затемнённую коробку. При этом он заметил, что в коробке длина искры в приёмнике становится меньше. Тогда Герц стал экспериментировать в этом направлении, в частности, он исследовал зависимость длины искры в случае, когда между передатчиком и приёмником помещается экран из различных материалов. Герц нашёл, что электромагнитные волны проходили через одни виды материалов и отражались другими, что привело в будущем к появлению радаров. Кроме того, Герц заметил, что заряженный конденсатор теряет свой заряд быстрее при освещении его пластин ультрафиолетовым излучением. Полученные результаты явились открытием нового явления в физике, названного фотоэффектом. Теоретическое обоснование этого явления позже дал Альберт Эйнштейн, получивший за это Нобелевскую премию в 1921 году.
В 1892 году у Герца была диагностирована инфекция (после серьёзной мигрени). Его несколько раз прооперировали, чтобы вылечить болезнь, но бесполезно. Он умер от заражения крови в возрасте 36 лет в Бонне.