Больцман родился в Вене в семье акцизного чиновника. Вскоре семья переехала в Вельс, а затем в Линц, где Больцман окончил гимназию. В 1866 он окончил Венский университет, где учился у Й. Стефана и И. Лошмидта, и защитил докторскую диссертацию. В 1867 г. стал приват-доцентом Венского университета и в течение двух лет являлся ассистентом профессора Й. Стефана.
В 1869 г. Больцман был приглашен на должность ординарного профессора математической физики в Грацском университете с обязательством читать курс «Элементы высшей математики». В 1873 г. стал ординарным профессором математики Венского университета, сменив в этой должности своего наставника Мотта. Однако вскоре (в 1876 г.) вернулся в Грац, где стал профессором экспериментальной физики и директором Физического института, нового учреждения, где в свое время работали В. Нернст и С. Аррениус.
Женился на Генриетте фон Айгентлер, студентке математического факультета, которая была на 10 лет младше. В доме жизнерадостного профессора устраивались музыкальные вечера, и Больцман сам садился за рояль. Любимые композиторы – Вольфганг Моцарт и Людвиг Бетховен. Пара вела светскую жизнь, часто посещала театры, организовывала пикники в окрестностях Граца.
Став известным теоретиком, Больцман в 1890 г. получил кафедру теоретической физики в Мюнхене, однако в 1895 г. вернулся в Вену в качестве преемника Й. Стефана по должности профессора теоретической физики. Спокойно вести научную и педагогическую работу Больцману не удавалось, поскольку в это время профессором философии Венского университета был Э. Мах, который в своих лекциях отрицал атомистические представления, лежавшие в основе больцмановской теории. В 1900 г. Больцман отправился преподавать в Лейпциг, однако там столкнулся с сопротивлением другого анти-атомиста В. Оствальда. Наконец, в 1902 г. Больцман вновь вернулся в Вену, где занял (помимо кафедры теоретической физики) еще и освобожденную Махом кафедру натурфилософии, обеспечив себе таким образом комфортные условия для работы. Больцмана многократно приглашали читать лекции в различных университетах Европы и Америки.
Работы Больцмана касаются преимущественно кинетической теории газов, термодинамики и теории излучения, а также некоторых вопросов капиллярных явлений, оптики, математики, механики, теории упругости и т.д. В 1866 получил формулу для равновесного распределения по импульсам и координатам молекул идеального газа, находящегося во внешнем потенциальном поле (распределение Больцмана). В 1871 предложил эргодическую гипотезу для обоснования закономерностей статистической физики. В 1872 вывел основное уравнение микроскопической теории неравновесных процессов (физической кинетики), носящее его имя, а также установил так называемую H-теорему, выражающую закон возрастания энтропии для изолированной системы. В 1872 показал статистический характер второго начала термодинамики, связав энтропию замкнутой системы с числом возможных микросостояний, реализующих данное макросостояние. Это стало указанием на несостоятельность представления о «тепловой смерти Вселенной». Важное значение имели труды Больцмана по термодинамике излучения. В 1884 он вывел закон для испускательной способности абсолютно черного тела с учётом пропорциональности давления равновесного излучения, предсказанного теорией Максвелла, и плотности его энергии. Этот закон был эмпирически получен Й. Стефаном в 1879 и носит название закона Стефана — Больцмана. Экспериментальные исследования Больцмана посвящены проверке максвелловской теории электромагнетизма, измерению диэлектрических постоянных различных веществ и их связи с показателем преломления, изучению поляризации диэлектриков.
К 1900 году у Больцмана развилась тяжёлая форма астмы, он переживал мучительные приступы болезни и сильно страдал от болей. Напряжённая полемика вокруг молекулярно-кинетической теории сказывалась на состоянии его нервной системы. В 1906 году Больцман прервал лекции и отправился на лечение в итальянский город Дуино вместе с женой и дочерью. 5 сентября 1906 года Больцман покончил с собой в гостиничном номере, повесившись на оконном шнуре. Самоубийство Больцмана связывают с депрессией, вызванной тем, что идеи развиваемой им статистической физики в то время не находили понимания в физическом сообществе. На могильном камне Больцмана выбита установленная им формула S=k\ln W, связывающая энтропию S термодинамического состояния с числом соответствующих микросостояний W. Коэффициент k=1,3806488(13)\10^{-23} Дж·К−1 носит название постоянной Больцмана.