Родился 17 июня 1914 в Тяньцзыне (Китай), в семье американских миссионеров. Он научился говорить по-китайски раньше, чем по-английски. Семья вернулась в Америку, когда мальчику было десять лет. Окончил Йельский и Кембриджский университеты. В 1937 году, будучи студентом Кембриджского университета, был литературным секретарем писателя Синклера Льюиса; писал для журналов «Тайм» («Time», 1937–1944) и «Лайф» («Life», 1944–1945). С 1965 по 1970 годы Херси был главой Пирсон колледжа. Уже первый роман Херси, «Колокол для Адано» (A Bell for Adano, 1944), был отмечен Пулитцеровской премией (1945). Следующая книга, «Хиросима» (Hiroshima, 1946), — волнующий документальный репортаж о первой атомной бомбардировке. Роман «Стена» (The Wall, 1950) повествовал о восстании узников варшавского гетто во время Второй мировой войны. Сатиру на американское образование представил «Скупщик детей» (The Child Buyer, 1960); в романе «Слишком далеко идти» (Too Far to Walk, 1966) скука и бесцельность жизни американских студентов лежат в основе молодежного бунта 1960-х годов; «Белый лотос» (White Lotus, 1965) — фантазия на тему расовых отношений; центральный образ замков и дверей в романе «Ореховая дверь» (The Walnut Door, 1977) знаменовал переход от бурных 1960-х годов к осторожным и осмотрительным 1970-м; воспоминаниями о жизни миссионеров в Китае навеян роман «Зов» (The Call, 1985); философский диалог «Синева» (Blues, 1987) посвящен практике и метафизике рыбной ловли. В числе последних публикаций Херси сборник рассказов Бросок (Fling, 1990).