Будущий живописец родился 16 марта в 1824 году под Новгородом в селе Померанье в семье отставного полковника Петра Гавриловича Боголюбова, ветерана Отечественной войны 1812 года, и Феклы Александровны, дочери известного русского вольнодумца XVIII века
Мальчик рано лишился отца и по ходатайству родственников был определен в Алексеевский кадетский корпус, а затем в Морской кадетский корпус в Санкт-Петербурге. В 17 лет для молодого мичмана началась флотская жизнь с дальними походами и бессонными вахтами. Юноша полюбил морскую стихию, которая навсегда вошла в его творчество. Даже в дальних походах он не расставался с мольбертом, пытаясь запечатлеть на холсте тяжелый труд моряков и прекрасный мир морской стихии.
Занятия живописью не мешали молодому моряку постигать премудрости флотской службы, которая складывалась вполне успешно. Уже через четыре года он был назначен адъютантом адмирала
Морские походы, связанные с посещением европейских портов, позволили молодому художнику познакомиться с лучшими произведениями многих иностранных мастеров. В Лондоне на него громадное впечатление произвела живопись прекрасного мариниста Дж. Тернера, искренним поклонником таланта которого он оставался всю жизнь. «Гармония красок навсегда запала в мою душу», — пишет он позднее о Тернере в своих воспоминаниях. Во время посещения Мадейры Алексей познакомился с Карлом Брюлловым, благожелательно оценившим его творчество и посоветовавшим серьезно заняться художественным образованием.
С осени 1849 г. Алексей стал вольноприходящим учеником Академии художеств. Для этого президенту Академии герцогу Максимилиану Лейхтенбергскому, которому понравились работы морского офицера, пришлось получить разрешение Николая I. В Академии Алексей занимался у прекрасных мастеров
В мае 1853 г. Боголюбов вышел в отставку, чтобы всецело посвятить себя живописи. В том же году он был назначен художником Главного морского штаба. Первая серия картин, посвященная русскому флоту Крымской кампании 1853 г., выполненная им в этой должности, получила высокую оценку и была отмечена орденом Святого Владимира 4-й степени.
Но этому предшествовала серьезная учеба. Успешное окончание Академии позволило ему весной 1854 г. отправиться в длительную пенсионную поездку в Европу. Он посещает картинные галереи и мастерские признанных мастеров живописи, занимается у Ахенбаха, Калама, Кутюра, Изабе, много пишет с натуры. В своих воспоминаниях он позднее отметит, что большое влияние на его художественное становление оказало знакомство с молодыми французскими художниками, которое «разом сделало во мне переворот, и я стал вглядываться, как этот народ, выросший в школе Энгра, Руссо, Коро и прочих новых светил, тогда только открывших новую эру французского пейзажа, глядит на натуру».
Из пенсионной поездки Боголюбов вернулся в1860 году, привезя большое количество картин и этюдов. В Академии художеств была открыта выставка его работ, продемонстрировавшая, что в России появился новый прекрасный мастер. Вспоминая эту выставку,
Картины Боголюбова стали пользоваться большой популярностью, часть работ, представленных на выставке, купил Александр II. Академией художеств ему было присвоено звание профессора. Последовал и новый крупный заказ — написать историю морских сражений Петра Великого.
За свою долгую творческую жизнь Боголюбов создал большое количество картин, в которых отразил славную историю отечественного флота. Как художник Главного морского штаба он не только писал картины, но и выполнял рутинные поручения, связанные с составлением художественных описаний береговых линий и портов. Так, в начале 60-х годов им были составлены атласы берегов Каспийского моря и берегов Финского залива.
Боголюбов много путешествует не только за границей, куда он выезжал регулярно. Он три раза совершает длительные поездки по Волге, плодотворно работает на Каспии. Мастер с увлечением пишет пейзажи, в которых отражает русские просторы. Он стремится не просто передать на полотнах красоту русской природы, но и показать ее величие и широту. Его пейзажи эпичны, наполнены светом, отличаются резкими контрастами и цветовой выразительностью.
В семидесятые годы Боголюбов близко сошелся с передвижниками, хотя разделял не все их идейные позиции. Он становится постоянным участником всех передвижных выставок, входит в члены правления Товарищества. Благодаря своему высокому служебному положению и авторитету, он берет на себя решение многих административных вопросов, связанных с организацией передвижных выставок.
С 1873 Боголюбов большую часть времени жил в Париже, где у него была хорошая мастерская. В этот период он близко сошелся с художниками барбизонской школы, которые, несомненно, оказали на него заметное влияние. Художник полюбил пленэрную живопись, отдельные его пейзажи стали близки по манере исполнения к импрессионизму. В этот же период им создается большое количество картин из истории русского флота, отличающихся академизмом в исполнении, как того требовали заказчики. Но и в эти работы он вносит элементы пленэрной живописи, добиваясь впечатляющей игры света.
В Париже его мастерская становится признанным центром русской художественной жизни. У него находят теплый прием и помощь многие молодые русские художники, выезжающие для продолжения обучения за границу. О «старике» Боголюбове с большой теплотой вспоминали Репин, Поленов, Савицкий, Верещагин, Беггров и многие другие живописцы, которые в молодости получали у него и приют, и товарищескую помощь.
Умер Алексей Петрович Боголюбов в Париже 7 ноября 1896. Похоронили его на Мало-Охтинском кладбище в Петербурге. В 1941 году прах художника был перенесен в Некрополь мастеров искусств в Александро-Невской лавре.