Het museum is gevestigd in een onderdeel van een Ottomaans paleis waarvan de bouw in de vijftiende eeuw begon en waar ook lange tijd een harem in was ondergebracht. Nadat Tunesië in 1881 een Frans protectoraat was geworden, werden gebouwen opgeknapt en in het complex werden de eerste collecties antieke voorwerpen ondergebracht.

De naam Bardo is afkomstig van het Spaanse woord prado dat tuin of weide betekent. Behalve de Romeinse mozaïeken, onder andere afkomstig uit het vroegere Carthago, herbergt het museum een reeks archeologische vondsten van Romeinse sculpturen tot Egyptische beelden en is er uitgebreide aandacht voor Tunesische kunst en cultuur. Het museum vierde in 2013 het 125-jarig bestaan.