Библиотека открылась в 1973 году, в 2011 году ей было присвоено имя российского писателя А.П. Соболева, на фасаде здания библиотеки установлена мемориальная доска работы скульптора В. Ковалева.
Детская библиотека была открыта в Калининграде в 1949 году, в марте 2006 года при поддержке датской стороны ей присвоено имя писателя-сказочника Г.-Х. Андерсена.
Уникальное здание, в котором сегодня расположена библиотека, построено в 1929–1930 годах в стиле конструктивизма по проекту немецкого архитектора Роберта Либенталя для Прусского государственного архива. В настоящее время оно является памятником архитектуры регионального значения.
Центральная детская библиотека была открыта в Калининграде в 1949 году, в 1977 году переехала в новое здание на ул. П. Морозова. В 2012 году ей присвоено имя детского писателя, поэта, баснописца Сергея Владимировича Михалкова.