А.Циммерман до 21-летнего возраста самостоятельно учился пейзажной живописи. Затем он обучался в дрезденской Высшей школе изобразительного искусства и, с 1831 года, в мюнхенской Академии. В Мюнхене художник создаёт популярную среди местных жителей школу пейзажной живописи. С 1857 года А.Циммерман — профессор живописи в миланской Академии художеств (Accademia di Belle Arti di Brera), куда за ним последовал и любимый ученик — Адальберт Вааген. В 1859/1860 годах художник приезжает в Вену, где преподаёт до 1872 года в венской Академии изобразительного искусства. С 1880 года А.Циммериан живёт в Зальцбурге, с 1884/1885 — в Мюнхене. Среди его учеников — пейзажистка Э. Медиц-Пеликан.

А.Циммерман был крупным представителем героико-исторической пейзажной живописи. Выбирал сюжеты для своих полотен как правило среди горной местности, часто с использованием событий из библейской истории. Позднее создавал поэтические картины идиллической природы. В начальный период творчества в работах А.Циммермана чувствуется влияние таких мастеров, как Йозеф Антон Кох и Бонавентура Дженелли.