У 1906 р. Полтавському губернському земству К. М. Скаржинською була подарована значна колекція — 20 тис. експонатів, яка була нею зібрана у своєму маєтку — х. Круглику на Лубенщині. На початку 20 ст. до Музею Полтавського земства надійшла колекція П. П. Бобровського. У 1920 р. відбулося відкриття експозиції Центрального пролетарського музею Полтавщини, якому було передано весь будинок губернського земства. У 1920—1941 рр. діяла окрема експозиція «Кабінет славетних полтавців». У 1921—1924 рр. музей очолював український археолог М. Я. Рудинський (1887—1958). У різний час в музеї працювали вчені та діячі культури, дослідники Полтавщини — археологи й етнографи І. Зарецький, В. Щербаківський (1876— 1956), К. Мощенко (1876—1953), О. Тахтай (1890—1963), природознавці — Волод. Ів. Вернадський, М. Гавриленко (1889—1971), В. Ніколаєв (1889— 1973), художник Н. Онацький (1875—1937), композитори і фольклористи Ф. Попадич, В. Верховинець.

Під час Великої Вітчизняної війни 1941—1945 рр. фонди були пограбовані, приміщення спалене. Після війни залишилось 37 тис. експонатів (до війни було близько 118 тис.). Зараз музей налічує понад 190 тис. одиниць зберігання, серед яких більше 360 килимів, 115 плахт, великі колекції вишивок, рушників, керамічних виробів, предметів нумізматики, археології та інших цінних матеріалів. Експозиція складається з відділів — археології, історії, етнографії, історії релігії та народного мистецтва.

З Полтавщиною пов'язані імена багатьох видатних людей. В експозиції вміщено власні речі Л. І. Глібова; завіса для Полтавського театру, виконана Г. Г. Мясоєдовим, рушники, подаровані Оленою Пчілкою музеєві Полтавського губернського земства. Окреме місце займають матеріали, присвячені уродженцю Полтави Ю. В. Кондратюку.

У музеї створено експозицію «Унікальні предмети у зібранні Полтавського краєзнавчого музею».

Розташований на пл. Конституції № 2.