Ще до організації Полтавського відділення Російського музичного товариства у Полтаві діяв напіваматорський  (з 1898 р.), яким керував у 1903-1914 рр. Д. В. Ахшарумов, та інструментальний квартет у складі Д. В. Ахшарумова (перша скрипка), Є. В. Святловського (друга скрипка), А. Н. Лісовського (альт) та Д. С. Пилищука (віолончель). Концертмейстером була Н. М. Головня. 27 січня 1898 р. симфоничний оркестр виступав у Полтаві. Виконувалися твори Бетховена, Баха, Тартіні, Кареллі, Ахшарумова.

З 27 січня до 29 грудня 1898 р. відбулося 11 симфонічних концертів, які заклали основу організації при Полтавському відділенні Російського музичного товариства великого симфонічного оркестру. За порівняно короткий час оркестр оволодів репертуаром складних симфонічних музичних полотен українських композиторів М. Лисенка, В. Сокальського, О. Немеровського, Л. Лісовського, І. Рачинського, М. Калачевського («Українська симфонія» М. Калачевського вперше виконана була у Полтаві в 1900 р.), а також російської та західно-європейської класики. У 1903-1914 рр. симфонічний оркестр під керівництвом Д. В. Ахшарумова виїздив влітку із концертами по містах України і Росії, а також інших країн. За цей час всього у Полтаві і на гастролях було дано понад 400 концертів.

Другим напрямком діяльності Полтавського відділення Російського музичного товариства була організація музичної освіти та підготовка кваліфікованих музичних фахівців. 8 вересня 1902 р. при відділенні почали діяти музичні класи, де навчались грі на фортепіано, сольного співу та грі на різних музичних інструментах.

У 1903 р. музичні класи були реорганізовані на Полтавське музичне училище Полтавського відділення Російського музичного товариства. У 1916 р. для нього закінчено будівництво спеціального 3-поверхового будинку (вул. Пушкіна № 32; тепер міський Полтавський Палац піонерів та школярів).

Полтавське відділення Російського музичного товариства вело широку концертну діяльність, запрошуючії відомих артистів, співаків та інструменталістів. На запрошення відділення у Полтаві виступали піаністи: А. Аренський, Бергер, М. Берковська, Н. Ванляровська, Н. Ванговський, Н. Головня, Е. Зайцева, Н. Калиновська, М. Лисенко, Л. Лісовський, В. Маурин, М. Опацевич, В. Рембро; співаки: С. Аркад'єва, С. Байрак, О. Вронська, А. Галінський, В. Дроздова-Діковська, А. Падовані, Ф. Поляков, Р. Таманті, арфісти: Р. Брамант, Я. Шаховська; скрипалі: М. Берсон, Е. Бірман, Я. Гегнер; віолончелісти: В. Алоїз, Є. Кальнибогоцький, А. Шварц та ін. З авторськими концертами виступали композитори М. Лисенко, А. Рубінштейн, С. Рахманінов, О. Скрябін.

Відділення проводило велику роботу по естетичному вихованню населення, підготовці музичних кадрів, частина яких стали відомими діячами вітчизняного мистецтва.