В деятельности Александра II весьма важное место занимало развитие сухопутных и морских военных сил. По словам С. С. Татищева, «верховный вождь относился к армии и флоту как к любимым своим детищам».

Впрочем, военные реформы 1860-70-х гг. были продиктованы не столько личными интересами российского императора, сколько насущными жизненными потребностями. Армия и флот нуждались в срочном реформировании по целому ряду причин.

Во-первых, в ходе Крымской войны (1853-1856 гг.) выявилось серьёзное отставание России от стран Западной Европы в сфере не только военной техники, но и войсковой организации. Во-вторых, назрела необходимость перехода на нарезное артиллерийское и стрелковое оружие. В-третьих, на смену парусному флоту в мире пришёл паровой. Бытие определяет сознание: Россия не могла оставаться на обочине прогресса.

Составление программы армейских преобразований император поручил Дмитрию Алексеевичу Милютину, 9 ноября 1861 года назначенному на пост военного министра. До него этот высокий пост занимали В. А. Долгоруков и Н. О. Сухозанет (его товарищем в 1858 г. и стал генерал-адъютант Д. А. Милютин, бывший начштаба князя Барятинского на Восточном Кавказе). Пять лет Сухозанет был царским военным министром. За это время им было кое-что сделано: упразднены военные поселения и сокращён срок солдатской службы в сухопутных войсках до 15 лет, а во флоте до 14 лет.

Но этих паллиативов было недостаточно. После заключения Парижского мирного договора Россия оказалась в политической изоляции. Ей было запрещено иметь военный флот и базы на Чёрном море, что фактически делало беззащитными южные рубежи страны. Между тем Великобритания расширяла экспансию на Ближнем и Среднем Востоке. Опасность для России представляла и Пруссия, стремившаяся к созданию Германской империи.

Таким образом, российская армия обнаружила свою несостоятельность на фоне угроз новых военных противостояний. Крымская война показала, насколько не соответствовала рекрутская система комплектования войск современным военным реалиям, требовавшим массовой армии. Стало ясно и то, что организационная структура армии безнадёжно устарела. Кроме того, практика военных действий показала одновременно и низкий боевой профессионализм командного состава российской армии, и отсталость тактики. Евгений Тарле отмечал, что накануне милютинской реформы солдаты были больше подготовлены к военным парадам и смотрам, нежели к военным действиям. Наконец, в армии процветало воровство.

Д. А. Милютин был образованным генералом, имевшим либеральные убеждения. Новый министр был противником «николаевских» — устаревших и во многом формальных — военных порядков. Именно Милютин, двадцать лет (с 1861 по 1881 гг.) занимавший пост военного министра России, стал инициатором в стране тех вошедших в историю военных преобразований, смысл которых вкратце можно передать так: приспособление российской армии к новым обстоятельствам и общественным условиям.

Дмитрий Алексеевич незамедлительно приступил к составлению проекта реформ («обширного плана», по выражению С. Татищева). Спустя два месяца, пятнадцатого января 1862 года, «Всеподданнейший доклад» был представлен царю.

«Обширный план» касался не только организации войск, но и предусматривал коренное реформирование всех отраслей военного управления. Основной целью «милютинских реформ», которые предполагалось проводить постепенно, была организация в России массовой армии по европейскому типу. Помимо прочего, проект Милютина предусматривал реорганизацию как военного управления, так и военно-учебных заведений, а также сокращение вооружённых сил в мирное время и развёртывание мобилизованных обученных резервов в военный период.

Надо заметить, что планируемые преобразования, ещё не успев начаться, встретили сопротивление как российского генералитета, так и высшего управления. Основными противниками Д. Милютина оказались генерал-фельдмаршал Барятинский и шеф жандармов П. А. Шувалов. Оппозиционеры публично критиковали нового министра за отказ от вековых устоев русской армии, за умаление роли армейского строевого начала. Но царь поддержал программу Милютина.

Одна из сложнейших задач при военном реформировании, которую пришлось решать царскому министру, заключалась в необходимости одновременного повышения боеспособности и боеготовности российской армии и максимального сокращения государственных военных расходов. Дмитрий Алексеевич видел единственный путь решения этой задачи: сокращение армии в мирное время наряду с увеличением её в период войны — за счёт создания обученного запаса.

Уменьшение численности армии России с 1132 тыс. чел. (1864 г.) до 742 тыс. чел. (1867 г.) позволило министру увеличить обученный армейский резерв к 1870 г. до 553 тыс. чел. Затем, 1 января 1870 г., был принят Устав о всесословной воинской повинности, отменивший рекрутчину. Согласно новому Уставу, всё мужское население, достигшее двадцати одного года, без различия сословий, подлежало воинской повинности. Часть призывников зачислялась на службу с последующим переводом в запас и в ополчение, а другая — сразу в ополчение. Лица до сорока лет, по жребию не попавшие в постоянные войска, зачислялись в ополчение и призывались в армию только в военное время. Устав, однако, вступил в законную силу с 1 января 1874 г.: царь не спешил его принять. С этой даты для сухопутных российских войск устанавливался шестилетний срок действительной службы и девятилетний срок пребывания в запасе (всего 15 лет); на флоте эти сроки составляли соответственно семь лет и три года (10 лет). Отслужившие зачислялись в ополчение. Всё это давало возможность постоянного пополнения вооружённых сил страны в мирное и военное время, а в случае войны позволяло развернуть массовую армию.

Были введены и кое-какие льготы. Лица, имевшие среднее и высшее образование, служили действительную не более 4 лет и не менее 6 месяцев. От воинской повинности было освобождено духовенство, народы Северного Кавказа, Средней Азии, Сибири и Крайнего Севера. От действительной службы освобождались также по семейному положению: например, единственный сын у родителей или тот призывник, у которого в семье старший брат отбывает или отбыл срок действительной службы. Установленные льготы позволяли освободиться от службы приблизительно половине призывников.

Д. Милютин перевооружил армию. Во-первых, был продолжен начавшийся в I половине XIX века переход от гладкоствольного к нарезному оружию, а в 1867-1869 гг. армия перешла на казнозарядное оружие. В 1868 г. была принята на вооружение американская винтовка Бердана, а в 1870 г. — «Бердан №2» (система, разработанная уже русскими инженерами). К концу 1860-х гг. закончилось перевооружение полевой артиллерии бронзовыми орудиями, зарядка которых производилась с казённой части.

Министр провёл и военно-окружную реформу: в 1864 и 1867 гг. территория страны была разделена на десять и затем пятнадцать военных округов. Новая военно-окружная система дала возможность устранить усиленную централизацию некоторых отраслей управления.

В 1868-1869 гг. было реорганизовано Военное министерство: Милютин упразднил разные дублирующие структуры, расширил полномочия военного министра, которому стали подчиняться все отрасли военного управления. При этом аппарат министерства был сокращён почти на 1000 человек, а канцелярская переписка уменьшилась на 45%. Неудивительно, что у реформ находились противники!.. Военное министерство отныне осуществляло только общее руководство: формирование направления и главный контроль действий нижестоящих административных органов.

Департамент Генерального штаба в 1863 г. был преобразован в Главное управление Генштаба. В 1865 г. оно слилось с Инспекторским департаментом в одно учреждение — Главный штаб, входящий в состав Военного министерства. В соответствии с Положением о Военном министерстве (1869 г.) на Главный штаб возлагалось решение всех вопросов, связанных с руководством военно-сухопутными силами империи в мирное время и подготовкой их к войне.

Другие организационные изменения коснулись строевого и полевого управления. Упразднено было деление сухопутных войск на армии и корпуса (в мирное время); высшей организационно-тактической единицей в кавалерии и пехоте стала дивизия, в инженерных войсках и артиллерии — бригада. Положение о полевом управлении войск в военное время, изданное в 1868 г., предусматривало в начале военных действий из войск, предназначенных для развёртывания, создавать одну или несколько армий, подчинённых главнокомандующим.

В середине 1860-х гг. были реализованы реформы в области военного образования. Кадетские корпуса превратились в военные гимназии и училища, в т. ч. юнкерские (с 1864 г., для подготовки офицеров из лиц без среднего образования). В военных академиях большое внимание отныне стали уделять практической подготовке высших военных специалистов. Кроме того, в 1867 г. открылась Военно-юридическая академия. Наконец, было введено обучение солдат грамоте; в полках и ротах организовывались библиотеки.

Важными в реформе Милютина явились и военно-судебные новшества. В 1867 г. был принят Военно-судебный устав; чуть ранее были отменены телесные наказания: шпицрутенами, плетьми, клеймением. Военно-судебные преобразования основывались на гласности. Гласность вообще была присуща военной реформе — на всех её этапах.

В военном министерстве было образовано «Особое совещание» под председательством самого Милютина. Оно собиралось почти каждый день. При необходимости созывались и «особые комиссии»: в них входили опытные генералы, офицеры, чиновники. Подготовленные комиссией и «Особым совещанием» материалы рассылались войсковым начальникам и прочим компетентным лицам, а также по учреждениям. Окончательная обработка всех проектов осуществлялась Военно-кодификационной комиссией (с 1867 г. — Главным военно-кодификационным комитетом). Многие документы, касавшиеся преобразований, публиковались в военной периодической печати. Обсуждение реформы велось на страницах российских газет и журналов.

Судебно-военная реформа 1867 г. отразилась в принятых Уставе внутренней службы и Дисциплинарном уставе, впервые провозгласивших охрану чести и достоинства солдата.

Интересно, что именно Милютиным в войсках была введена физическая подготовка. Была реформирована и боевая подготовка. Теперь важное внимание уделялось практической стороне дела, в первую очередь стрельбам.

В июне 1867 г. было принято Положение об управлении Морским ведомством. Позднее была разработана кораблестроительная программа, предусматривавшая создание броненосного парового флота (1876 г.). На вооружение флотом принимались новейшие образцы минного, торпедного и артиллерийского вооружения.

В 1870-1871 гг. были реорганизованы санитарно-госпитальные части, хозяйственные службы, прочие снабженческие органы. В ходе преобразований существенно улучшились питание и обмундирование солдат и офицеров, их быт, условия службы.

Таким образом, реформы 1860-1870-х гг. затронули все стороны военной системы России. Кроме того, преобразования облегчили воинские тяготы податных сословий и способствовали быстрому повышению народной грамотности. В качестве обученных офицеров армию стали пополнять выходцы из недворянской среды.

В результате проведения «милютинских реформ» российская армия стала вполне отвечать требованиям нового времени. В 1870-х гг. по боеспособности она едва ли уступала армиям европейских стран, что подтверждается победой в русско-турецкой войне 1877-1878 гг.