Академия образована в 1855 г. на базе офицерских классов Михайловского артиллерийского училища. Ряд лет академия и училище находились в тесной связи. Прием осуществлялся из выпускников училища или из других училищ по экзамену. Курс был двухгодичным; при переводе из младшего в старший класс окончившие по 1-му разряду получали следующий чин, а по 2-му разряду – или оставались в младшем классе еще на год, или выпускались на службу тем же чином, но один-два раза потом их обходили при производстве в следующий чин. Выпускники старшего класса 1-го разряда получали следующий чин - поручика, 2-го разряда – выпускались тем же чином и 3-го – тоже тем же чином, но потом один-два раза обходились при последующем производстве.
С 1862 г. в академии были два отдела - строевой (2-летний) и технический (3-летний), но в 1866 г. первый был закрыт. С 1863 г. для поступления в академию надо было прослужить в строю не менее 2 лет и быть в чине не выше капитана (штабс-капитана гвардии), а по положению 1867 г. выпускники артиллерийского и инженерного училищ и университетов принимались после 2 лет службы, а прочие – 3 лет и в чине не старше штабс-капитана (поручика гвардии). Штат был установлен в 60 человек. Выпущенные по 1-му разряду получали следующий чин (но не старше армейского штабс-капитана).
Курс обучения по положению 1867 г. составлял 2,5 года и состоял из следующих дисциплин: высшей математики, теоретической и практической механики, химии, физики, начертательной геометрии, технологии, фортификации, баллистики, материальной части артиллерии, организации и боевого применения артиллерии, истории артиллерии и администрации артиллерийских технических заведений.
По положению 1894 г. в академии снова создано строевое отделение, а срок обучения составил 2 года 8 месяцев, но в 1912 г. оно упразднено, а срок обучения увеличен до 3 лет. За время своего существования академия выпустила (по 1914 г.) 1715 человек, в т. ч. в 1855-1900 гг. – 1165 и в 1901-1914 гг. – 550.