Erzurum ve çevre illerden çeşitli şekillerde kazandırılan eserlerin sergilendiği müze, 1942 yılında Çifte Minareli Medrese'de faaliyete geçmiş, 1967 yılında yeni binasına taşınmıştır. 1994 yılında Yakutiye Medresesi Türk-İslâm Eserleri ve Etnografya Müzesi'nin açılması ile Arkeoloji Müzesi'ne dönüştürülmüştür. Bağlı birimleri Türk-İslâm Eserleri Müzesi ve Atatürk Evi Müzesidir. Ayrıca çevre illerdeki geniş bir bölgede çalışmalarını sürdüren müdürlüğün idari işleri de bu binada sürdürülmektedir. Müzede, Kazılar Salonu, M.Ö. II. bin Trans-Kafkas Kültürü Salonu, Urartu Salonu, Tabiat Tarihi Salonu ve Ermeni Katliamları Salonu bulunmaktadır. Kazılar Salonu Bölgede bu güne kadar yapılan kazılarda çıkarılan eserler sergilenmektedir. Bunlar arasında Karaz (1942-1944), Pulur (1960), Güzelova (1961), Sos (1994-1998) Höyük kazıları önemli bir kısmını teşkil etmektedir. M.Ö. IV. bin. den Selçuklu Dönemi'ne kadarki döneme ait heykelcikler, kutsal ocaklar, ok uçları, pişmiş toprak kaplar, taş eserler gibi eserler sergilenmektedir. Ülkemizde, Karaz kültürü olarak bilinen, Güney Kafkasya'dan, Urmiye Gölü'nün batısına ve Filistin'e kadar geniş bir bölgeye yayılmış olan bu kültüre en yoğun şekilde Doğu ve Güneydoğu Anadolu'da, özellikle de Erzurum ve çevresinde rastlanması, bu kazıların ve bundan sonra yapılacak olan kazıların önemini artırmaktadır. Roma, Hellenistik, Trans-Kafkas Salonu İkiztepe tümülüslerinde çıkarılan eserler ile satın alma ve müsadere yoluyla müzeye kazandırılan Roma ve Hellenistik dönemlere ait diadem, yüzük, küpe gibi altın eserler, cam gözyaşı şişeleri, pişmiş toprak, lahit gibi eserler ile M.Ö. II. binde Van Havzası'nın batısı, Doğu Anadolu Bölgesi, güneydoğuda Urmiye Gölü çevresinde, kuzeydoğuda Gürcistan'a kadar yayılmış olan Trans-Kafkas Kültürü'ne ait eserler sergilenmektedir. Urartu Eserleri ve Sikke Salonu M.Ö. 900-600 tarihleri arasında hüküm süren Urartular'ın başkenti, Van (Tuşpa) dır. Urmiye, Gökçegöl ve Çıldır göllerini kapsayan batıda Erzincan ve Malatya çizgisine kadar yayılan geniş bir sahada güçlü bir krallık olarak hüküm sürmüştür. Kökenleri Hurriler'e dayandırılmaktadır. Urartular'dan kalan bir çok kale, kaya mimarîsi, baraj ve sulama tesisleri yanında, müzede sergilenen pişmiş toprak ve madeni kaplar, süs eşyaları, mühürler, savaş malzemeleri, adak levhaları ve rythonlar Urartu Uygarlığı'nın gelişmişliğini göstermektedir. Bu salonda, Hellenistik, Roma ve Bizans dönemlerine ait çok sayıda sikke bulunmaktadır. Urartu Yazıtları ve Tabiat Tarihi Salonu Tarihe ışık tutan çok önemli yazılı belgeler olan kitabelerden Urartular'a ait satın alma yoluyla müzeye kazandırılan taş Urartu yazıtları bu salonda sergilenmektedir. Günümüzden yaklaşık 500 bin yıl önce yaşamış olan Mamut (fil) fosili, yumuşakça fosilleri, bitki fosilleri ve obsidiyenler de bu bölümde yer almaktadır. Ermeni Katliamı Salonu 1918 yılında Ermeni komitacılar tarafından Anadolu'da Türkler'e yapılan "soykırım" alanlarından, Erzurum'da Alaca, Yeşilyayla ve Tımar Köyü ile Kars'ta Obaköy kazılarında ortaya çıkarılan buluntular sergilenmektedir. Buluntular arasında muskalar, düğmeler, ayyıldızlı tabaka ve kolyeler, mermi kovanları, Kur'an-ı Kerim parçaları yer almaktadır.