Библиотека открылась в 1973 году, в 2011 году ей было присвоено имя российского писателя А.П. Соболева, на фасаде здания библиотеки установлена мемориальная доска работы скульптора В. Ковалева.
Детская библиотека была открыта в Калининграде в 1949 году, в марте 2006 года при поддержке датской стороны ей присвоено имя писателя-сказочника Г.-Х. Андерсена.
29 ноября 1946 года в трёх комнатах бывшей средней школы открылась первая городская детская библиотека. Фонд её составлял всего 2 800 экземпляров. 1 января 1947 года библиотека распахнула свои двери для читателей — появление детской библиотеки в разрушенном войной городе стало событием для калининградской детворы.
Уникальное здание, в котором сегодня расположена библиотека, построено в 1929–1930 годах в стиле конструктивизма по проекту немецкого архитектора Роберта Либенталя для Прусского государственного архива. В настоящее время оно является памятником архитектуры регионального значения.
Центральная детская библиотека была открыта в Калининграде в 1949 году, в 1977 году переехала в новое здание на ул. П. Морозова. В 2012 году ей присвоено имя детского писателя, поэта, баснописца Сергея Владимировича Михалкова.