В феврале 1862 г. Александру II был представлен доклад, подготовленный под руководством военного министра, в котором излагалась программа коренных военных преобразований. Суть преобразований сводилась к созданию современной массовой кадровой армии, способной обеспечить надежную защиту государства. Доклад был одобрен и послужил основой для проведения военный реформы (ее иногда называют милютинской), которая затронула все стороны военного дела, но наиболее глубоко охватили три его области: военное управление, комплектование армии и обучение военных кадров.
Существенному реформированию подверглась система военного управления, произошел переход от жесткой централизации к широкой самостоятельности и инициативе командиров на местах. В 1864 г. было принято «Положение о военных округах». На территории России вводилось 15 военных округов: Варшавский, Виленский, Киевский, Одесский, Петербургский, Московский, Финляндский, Рижский, Харьковский, Казанский, Кавказский, Туркестанский, Оренбургский, Западно-Сибирский, Восточно-Сибирский. Во главе округов стояли командующие войсками, часто они являлись и генерал-губернаторами, соединяя в своих руках военную и гражданскую власть. В округе сосредотачивались все функции военного управления, что значительно повышало оперативность руководства войсками. Военно-окружное управление состояло из военно-окружного совета, окружного штаба и управлений: интендантского, артиллерийского, инженерного и инспектора военных госпиталей. Высшей тактической единицей стали дивизии, начальники которых получили широкие полномочия по организации всех сторон их жизни и боевой подготовки.
Параллельно проходила реорганизация центрального военного управления. В 1869 г. было принято «Положение о Военном министерстве», которое определило его новую структуру. В министерстве создавались семь главных управлений (интендантское, артиллерийское, инженерное, военно-учебных заведений, военно-медицинское, военно-судебное и иррегулярных войск), две инспекции (кавалерии и стрелковых батальонов) и различные комитеты. Значительно расширились функции Военного Совета. Было создано Главное управление Генерального штаба. Одновременно вводилась должность начальника штаба дивизии.
В 1869 году было принято, а в 1873 г. уточнено «Положение о полевом управлении армиями, корпусами и отрядами в военное время». Положение значительно упрощало структуру полевого управления действующей армии и существенно расширяло возможности главнокомандующих, которым предоставлялось право вести боевые действия сообразуясь с обстановкой, руководствуясь утвержденным общим планом.
Реформа военного управления позволила устранить излишнюю централизацию, значительно повысить инициативу и ответственность за принятые решения на местах и почти на половину сократить аппарат военного управления.
Значительному реформированию подверглась система военного образования, в котором происходил переход от подготовки офицеров — носителей кастового военного духа, лишенных собственного мнения и самостоятельности, к подготовке всесторонне образованных, инициативных военных профессионалов.
Военно-учебные заведения были разделены на четыре разряда. К первому относились академии, дававшие высшее военное и специальное образование. Во второй разряд входили военные и юнкерские училища, специальные классы Пажеского и Финляндского кадетских корпусов, готовившие офицеров для войск. Третий разряд составляли военные гимназии и прогимназии, которые давали общее образование. В четвертый разряд входили военные школы, которые готовили технических специалистов, унтер-офицеров и фельдшеров.
В ходе реформы были созданы две новые военные академии (Морская и Военно-юридическая) и увеличен прием слушателей в существующие академии (Генерального штаба, Артиллерийскую, Инженерную и Медико-хурургическую). Учебные планы академий были переработаны с учетом большей практической направленности. Значительным нововведением стала централизованная подготовка педагогов для военно-учебных заведений.
Были ликвидированы кадетские корпуса (кроме Пажеского и Финляндского), где юноши на 7−9 лет практически изолировались от общества и буквально «пропитывались» аракчеевским духом. Вместо кадетских корпусов создаются военные и юнкерские училища, а для подготовки к поступлению в них — военные гимназии и прогимназии. Военные гимназии с семилетним сроком обучения давали общее среднее образование и готовили юношей к поступлению в военные училища, из которых они через три года выпускались подпоручиками или корнетами. Военные прогимназии с четырехлетним сроком обучения давали общее начальное образование, их выпускники могли поступать в двухгодичные юнкерские училища. Выпускникам юнкерских училищ присваивали звание портупей-юнкер, а офицерские звания они через определенный срок получали в войсках. Присвоение офицерских званий лицам без специальной подготовки было прекращено и допускалось только в виде исключения в боевых условиях. Войсковым унтер-офицерам и вольноопределяющимся, имеющим начальное образование, теперь для получения офицерского чина необходимо было закончить юнкерское училище или сдать специальные экзамены.
Для подготовки военных специалистов низового звена использовались четырехлетние артиллерийские, топографические и военно-фельдшерские школы. Они давали хорошую военную подготовку, и их выпускникам, после определенного срока службы в нижних чинах, могли присваиваться офицерское звание или классный чин. Унтер-офицеров стали готовить в специальных учебных командах или школах с двухлетним сроком обучения.
Принятые меры смогли значительно повысить уровень подготовки офицерского корпуса, военных специалистов низового звена и унтер-офицеров. Но «больной» для русской армии вопрос подготовки офицеров запаса так и не был решен.