Эрнст Аббе родился в семье бедного рабочего ткацкой фабрики. Материальная поддержка хозяев фабрики помогла ему закончить школу, а затем и гимназию. В 1857 году Аббе поступил в Йенский университет, где впервые познакомился с оптической мастерской Карла Цейсса, в которой изготавливались приборы и инструменты для университета. В 1859 году продолжил учёбу в Гёттингенском университете, в 1861 году защитил докторскую диссертацию. Недолго проработав после защиты ассистентом Гёттингенской астрономической обсерватории, Аббе занимает место доцента в Физическом институте во Франкфурте-на-Майне, в 1863 году получает диплом магистра. В конце 1863 года Аббе возвращается в Йену, где получает должность неоплачиваемого приват-доцента Йенского университета.
С 1866 года начинается совместная работа Э.Аббе и К.Цейсса. В течение нескольких последующих лет благодаря теоретическим исследованиям Аббе существенно повысилось качество микроскопов, выпускаемых фирмой «Карл Цейсс». В 1871 году Аббе женился на дочери известного немецкого физика Карла Снелля. В 1876 году, отмечая 30-летие со дня основания и выпуск 3 тысяч микроскопов, фирма «Карл Цейсс» заключила контракт с Аббе, сделавший его полноправным участником фирмы.
В 1878 году Аббе становится ординарным профессором Йенского университета. С 1877 по 1890 год он занимал также должность директора Йенской обсерватории и много сделал для её оснащения новым оборудованием. В 1884 году совместно с ученым-стеклохимиком Отто Шоттом основал в Йене предприятие по производству оптического стекла.
В 1888 году 72-летний К.Цейсс передал свои права сыну — доктору медицины Родериху Цейссу, но фактически владельцем фирмы стал Аббе. В 1889 году он предложил создать для управления фирмой фондовую организацию — «Карл Цейсс-Штифтунг», ставшую наряду с научными работами значительным итогом его жизни. Напряжённая научная, преподавательская и общественная деятельность Аббе ухудшила его здоровье и в 1903 году он отказался от поста члена дирекции фирмы «Карл Цейсс». 14 января 1905 года Аббе скончался в Йене, не дожив нескольких дней до своего 65-летия.
Заслуги Аббе отмечены избранием его членом нескольких академий и научных обществ, государственными наградами, званием почетного гражданина Йены. Бюст Аббе установлен в актовом зале Йенского университета. В память о нём в центре Йены в 1911 году сооружён мемориал Эрнста Аббе, внутри которого на высоком постаменте установлен его бюст.
