Музей открылся в 1989 году, к столетию со дня рождения Анны Ахматовой, и был первым музеем, посвященным тем представителям ахматовского поколения, которые пытались сохранить свой мир, свою личность в условиях тоталитарного государства.
Новое экспозиционное решение 2003 года делит музейное пространство на две части: мемориальную, возвращающую квартире Пуниных-Ахматовой облик 1920-х - 1940-х годов, и литературно-историческую, подчиненную иной экспозиционной логике - "Я помню все в одно и то же время…" (Ахматова).
Музей Анны Ахматовой в Фонтанном Доме расположен в центре Петербурга, в Южном флигеле Шереметевского дворца, шедевра архитектуры русского барокко (архитектор С. Чевакинский). Флигель (он назывался Новый кухонный) построен в 1845 году по проекту И. Корсини, а в 1911-1914 годах М. Красовский надстроил третий этаж, где сегодня располагается мемориальная квартира. "Тридцать пять лет я прожила в одном из самых замечательных Петербургских дворцов (Фонтанный Дом Шереметевых)… и радовалась совершенству пропорций этого здания 18 века", - вспоминала Ахматова.