История создания Дагестанского музея изобразительных искусств ведет свое начало еще  со второй половины XIX века, хотя датой официального открытия считается 1958 год, когда по  приказу Министерства культуры РСФСР был создан музей на базе Картинной галереи Дагестанского республиканского краеведческого музея.
Еще  в конце XIX века прогрессивные деятели культуры выдвигали идею создания музея в Дагестане. В 1881 году штаб-лекарь И.С. Костемеровский завещал «на поддержку кустарных производств в Дагестане посредством  образования музея» 2 779 рублей. Когда капитал Костемеровского увеличился, военный губернатор Вольский 29 октября 1910 года поставил в Областном присутствии вопрос о необходимости организации музея и образовал для этой цели особый комитет под своим председательством. Музей был открыт в мае 1913 года в городе Темир-Хан -Шура и назван «Дагестанским кустарным музеем имени И.С. Костемеровского».
В первые годы пост революционного периода Дагестанский кустарный музей был расформирован, а остатки экспонатов перевезены в Порт-Петровск. Тем не менее 2 июля 1920 года председатель Дагревкома Н.Самурский и секция охраны памятников и старины обратились с воззванием к населению: «Каждый гражданин-горец обязан хранить и не допускать продажу и вывоз за пределы Дагестана находящихся у него произведений искусства...»
В ноябре 1923 года был организован Дагестанский музейный комитет - «Дагглавмузей», председателем которого был  избран нарком просвещения Алибек Алибекович Тахо-Годи.
Помимо краеведческого музея, в это время было решено организовать так  называемый «Художественный музей». Большинство экспонатов художественного характера (картины, скульптура, керамика, мебель и т.д.) были уступлены Дагестану Гл.Комитетом по делам музеев и охраны памятников искусства и старины Наркомпроса РСФСР из Государственных Музейных фондов Москвы и Петрограда. Будучи человеком высокообразованным и культурным А. А.Тахо-Годи понимал, что для подбора экспонатов для художественного музея ему необходимо самому лично ехать в центр. Но уже находясь в Москве, он столкнулся с проблемой  выбора экспонатов. Чтобы отобрать первоклассную коллекцию, им  были приглашены для консультаций ведущие специалисты-искусствоведы. Благодаря личному участию А. А.Тахо-Годи сегодня Дагестанский музей изобразительных искусств обладает прекрасной коллекцией западноевропейского искусства XVI-XIX веков, русского искусства XIX-нач. XX веков. В Дагестан  поступила почти полная коллекция князя Л.И.Барятинского, а также несколько подлинных работ художника Т. Горшельта. Из Кавказского военно-исторического музея «Храм Славы» в г.Тбилиси были переданы Советом Народных Комиссаров Республики Грузия живописные полотна Ф.А. Рубо «Ахульго», «Штурм аула Гимры», Н.Е. Сверчкова «Портрет Шамиля», Ф.И. Байкова «Переход горцев через реку» и другие произведения. Д.И.Павлов подарил музею альбом рисунков князя Г.Г.Гагарина и 18 литографий с изображениями сцен из жизни Шамиля и его семьи. «Нужно создать музей, - говорил А. А. Тахо -Годи, - не кунсткамеру, не простое собрание реликвий прошлого, а отобразить в нем видимое и реально существующее лицо края , отобразить динамический Дагестан- Дагестан в его бытие, в изменениях, в постоянном развитии».
В начале октября 1958 года на улице Маркова в Махачкале было выделено специальное помещение общей площадью 200 кв. метров, где было размещено более 200 экспонатов русского, советского и западноевропейского искусства.
В 1964 году директором Дагестанского музея изобразительных искусств была назначена Патимат Саидовна Гамзатова, которая бессменно руководила музеем до 2000 года. Количество экспонатов выросло с 200  до 14000, музей обрел богатейшую коллекцию и известность во всем мире, располагается в замечательном  здании.  В 10 залах постоянной экспозиции музея представлены шедевры дагестанского прикладного искусства, произведения стран и народов мира - живопись, графика, скульптура, керамика, дерево, медь, ковры, мебель, фарфор, стекло, фаянс общая суммарная хронология которых составляет более 40 веков- со II тыс. до н.э. и по сегодняшний день. И этот факт заслуженно дал еще одно название нашему музею – «Малый Эрмитаж».
В 2000 году решением Правительства РД Дагестанскому музею изобразительных искусств было присвоено имя Патимат Саидовны Гамзатовой.