Библиотека Зареченского района открылась для читателей в 1954 году, а в 1959 году ей был присвоен статус городской массовой библиотеки № 3.
В 2009 году — год 55-летия со дня открытия — библиотеке присвоено имя знаменитого земляка, командира легендарного крейсера «Варяг», контр-адмирала Всеволода Федоровича Руднева.
В 2013 году библиотека-филиал № 3 объединена с библиотекой-филиалом № 12 и преобразована в модельную библиотеку. Библиотека № 12 являлась правопреемницей первой детской библиотеки города Тулы. Она была открыта 21 января (3 февраля) 1909 года в доме Василия Раева на Миллионной улице в Заречье. Инициатором ее устройства был А. Д. Ротницкий. Идею создания библиотеки для детей рабочего Заречья одобрил Л. Н. Толстой, передавший в ее фонд свои книги.
Объединенный фонд библиотеки — 57796 экземпляров. Библиотека обслуживает около 10 тыс. пользователей, документовыдача — около 195 тыс. экземпляров.