Материалы, документы, фотографии, подлинные вещи Ахматовой мы начали собирать сразу же после решения об открытии музея, в июне 1989. Нужно было определить круг друзей и современников Ахматовой как в Ленинграде, так и в Москве. Некоторые имена были известны: в самиздате ходил сборник воспоминаний об Ахматовой, но одних уже не было, другие были слишком стары. По цепочке стали находиться и имена и адреса тех, кто готов был общаться с вновь создаваемым музеем.
В экспозиции представлена лишь малая часть собрания музея. Основные его богатства хранятся в фондах. Коллекция музея на сегодняшний день насчитывает 51,56 тысячи единиц хранения. Наиболее ценные коллекции: библиотека Анны Ахматовой, библиотека Иосифа Бродского, коллекция М. С. Лесмана (редкие книги и рукописи поэтов ХХ в.), собрание графики и произведений прикладного искусства, принадлежавшее Л. Н. Гумилеву и его жене – Н. В. Гумилевой-Симоновской, коллекция графики из собрания Н. С. Несмелова (виды Ленинграда – Петербурга 1930-1960-х годов)
В 2004 г. в собрание музея были переданы мемориальные предметы Льва Николаевича Гумилева, включающие в себя помимо личных вещей, документов и автографов, принадлежавших ученому, уникальную мемориальную библиотеку с автографами выдающихся деятелей науки и культуры, состоящую из научных изданий, произведений Анны Андреевны Ахматовой и Николая Степановича Гумилева, изданных в разное время, труды самого Льва Николаевича.