В 1873 году была открыта первая публичная общественная библиотека. 5 июля 1906 года в Сызрани вспыхнул большой пожар, уничтоживший большую часть города. Во время пожара дотла сгорела городская публичная библиотека. Для восстановления фонда был объявлен сбор пожертвований, и за короткое время библиотека смогла восстановить часть утраченного книжного собрания. Все посылки с книгами поступали на имя сызранского редактора, издателя, библиографа Е. И. Аркадьева. К началу 1908 г. им было сдано 7 000 томов.
Современный облик Центральная городская библиотека приобрела в 70–80-е годы. В 1975 году она объединила 13 библиотек в единую библиотечную сеть. В 1983 году к ней присоединились пять специализированных детских библиотек. С 1998 года по решению администрации города Центральная библиотека носит имя Е. И. Аркадьева.
На сегодняшний день фонд Центральной городской библиотеки насчитывает 182 тыс. экземпляров. Ежегодно ее посещают 8 тыс. читателей.