Андрей Шильдер родился в семье художника Н. Г. Шильдера.
Специального художественного образования не имел — учился у И. И. Шишкина, посещая его мастерскую. В 1879 году ездил с ним в Крым, в 1893 году — в Беловежскую пущу.
На передвижных выставках участвовал с 1884 по 1918 годы, член Товарищества с 1891 года.
Начиная с 1885 года Шильдер много работал в иллюстрированных журналах: «Север», «Живописное обозрение», «Всемирная иллюстрация», «Ласточка», «Новь» и «Артист».
В 1903 году Шильдер стал академиком пейзажной живописи. Особую известность ему принесла большая панорама заводов Нобеля — «Город», которую художник написал к Нижегородской всероссийской выставке 1896 года.
Работы А. Н. Шильдера представлены во многих областных художественных музеях и галереях: в Третьяковской галерее, Русском музее, Владимиро-Суздальском художественном музее-заповеднике, Ставропольском краевом музее изобразительных искусств.
А. Н. Шильдер также был прекрасный шахматист.
Умер и похоронен в Петрограде.
