Sejarah menyebutkan, Masjid Sankore ini merupakan pusat pengajaran dan pengkajian ilmu agama. Bentuknya yang menyerupai istana pasir menjadikannya terkenal di seluruh dunia. Masjid Sankore merupakan satu dari tiga masjid pusat pembelajaran kuno di Timbuktu. Dua masjid lainnya adalah Masjid Sidi Yahya dan Masjid Djinguereber, yang juga tersohor di Timbuktu.
Di awal pembangunannya, kekaisaran Mali mendapat kontrol langsung atas Kota Timbuktu. Tahun 1324 di masa pemerintahan Kaisar Mansa Musa Kankou, Masjid Sankore dirancang menjadi masjid agung pertama kemudian disusul pembangunan Masjid Djinguereber tiga tahun berikutnya. Peletakkan batu pertama diawali oleh perintah hakim ketua kota, Al-Qadi Aqib bin Mahmud bin Umar.
Pada awalnya, Sankore hanya digunakan sebagai masjid. Namun seorang wanita lokal, Madinka, dengan kekayaannya mengubah Sankore menjadi lembaga pengajaran kelas dunia dengan profesor yang setara dengan di luar Afrika. Masjid yang saat ini sudah menjadi pusat pendidikan kelas dunia itu dirancang sedemikian rupa, sehingga dimensi bangunan tepat menghadap ke Ka’bah di Makkah.
