该寺原名广益桥清真寺。据宣统元年（1909年）该寺所刻石碑记载：“雍正年间查产建造”。可知该寺创始于1723年至1735年之间，巳有25O多年的历史了。该寺原占地1.8亩，整个建筑面积1200平方米，系庑殿式砖木结构，斗拱飞檐、雕樑画栋，蔚为壮观。 

辛亥年（1911年）遭大火焚毁，旋又复建如初。193O年拓宽汉口马路时，被折，后移重建，占地仅余0.8亩，建筑面积为75O平方米，为砖木结构的三层楼房。1986年，由政府资助进行了加层及全面维修。寺现为一座具有阿拉伯特色的5层楼房，建筑总面积达940平方米。五楼平台上耸立着三个圆顶，为宣礼塔。一楼系净水堂，设备齐全，二楼为讲经堂、会客厅，三楼为礼拜大殿，面积360平方米，可容50O人同时礼拜，四楼为武汉伊斯兰教协会办公处，五楼平时用作会场、会礼时为另一礼拜殿。该寺曾培养过一批知名阿訇。兴办过回族新型学校。抗日战争初期曾成为回民抗日救亡活动的中心，汉口市回民战地服务团设在寺内。1949年后，武汉市回民联合会，武汉市回民文化协进会、武汉市伊斯兰教协会均先后设于该寺内。