Музей расположен на территории принадлежавшей семье Николая Ярошенко усадьбы с садом, парком и постройками, включающими четыре мемориальных здания. Музей основан в 1959 году. Открыт 11 марта 1962 года. С 1959 года — Дом-музей Н. А. Ярошенко, с 1963-го — Музей Н. А. Ярошенко, с 1967-го — Кисловодский художественный музей Н. А. Ярошенко, с 1991 года музей носит современное название. Николай Ярошенко посвятил себя искусству, не оставляя военной службы.
Николай Ярошенко родился в 1864 году в Полтаве в семье отставного генерал-майора. С самого детства Николая готовили к военной карьере. Его отец мечтал, чтобы старший сын пошел по его стопам, и не обращал внимания на интерес мальчика к живописи. Когда пришло время, генерал отдал сына в Полтавский кадетский корпус, где некогда служил сам, а по его окончании, уже юношей, молодой Ярошенко уехал в Петербург и поступил там в Павловское училище. Параллельно Николай брал частные урокам рисования, а потом посещал вечерние классы рисовальной школы Общества поощрения художеств, где преподавал Иван Крамской. Обучение будущий военный инженер продолжил в Михайловской артиллерийской академии и одновременно стал посещать Академию художеств.
Он с отличием закончил военную академию и был распределен на Санкт-Петербургский патронный завод, где прослужил более 20 лет. Исполнив мечту отца и повторив его путь, он ушел в отставку в чине генерал-майора. А вот повествование о художнике и общественном деятеле Николае Ярошенко должно быть более обширным.
Начальник штамповальной мастерской Петербургского патронного завода штабс-капитан Ярошенко по вечерам продолжал посещать классы Академии художеств еще на протяжении четырех лет. За это время он сблизился с художниками-передвижниками и писателями, объединившимися вокруг журнала «Отечественные записки». Мировоззрение Ярошенко формировали идеи Чернышевского и Добролюбова, его вдохновляла поэзия Некрасова. На заводе Ярошенко много общался с рабочими. Постепенно он проникся их нуждами, и ему стали близки взгляды весьма характерные для русской интеллигенции последней четверти XIX века. Такое мировоззрение сыграло определяющую роль и в выборе сюжетов его картин, и в настроении, ими передаваемом.
