La primera mezquita de Djenné fue construida entre 1180 y 1330, aunque actualmente se considera el año 1240 como su fundación. El sultán Koi Konboro, quien se convirtió al islam, entregó su palacio y mandó a construir una mezquita para los creyentes. Luego se construyeron la torre y un muro adicional.
En 1834, Amadu Hammadi Bubu, el fundador del Imperio de Massina, dejó que la mezquita se destruyera. Se realizó una nueva mezquita, conservando únicamente un recinto que contiene las tumbas de los líderes locales. Hacia 1896 se construyó este nuevo edificio sobre la base de los planos antiguos, con una apariencia más humilde. Pero ésta también fue demolida, para construirse entre 1906 y 1909 la que se encuentra en la actualidad.
Muchas mezquitas de Malí cuentan con instalaciones eléctricas y sanitarias. En algunos casos se ha cubierto la fachada de azulejos, lo que ha arruinado su aspecto histórico y ha comprometido la integridad estructural del edificio. Aunque la “Gran Mezquita de Djenné” ha sido equipada con un sistema de megafonía, los ciudadanos de Djenné se han resistido a otras modernizaciones del edificio.
La Gran Mezquita fue cerrada para los no musulmanes después de haber sido utilizada para una sesión de imágenes de moda de la revista Vogue en la azotea y el área de oración de la misma. Las fotos de mujeres ligeras de ropa fueron consideradas una violación del acuerdo que la revista había hecho con los líderes locales.