К началу XX века возникла потребность в строительстве в Москве новой мечети. Лишь после многократного ходатайства имама общины Б. Алимова и приобретения на средства московского мещанина С. Бакирова и касимовского купца Х. Акбулатова Оренбургским духовным собранием участка земли было получено разрешение на строительство мечети. В ноябре 1904 года, меньше чем через год после выделения земельного участка, мечеть в Выползовом переулке по проекту архитектора Н. Жукова и финансовой поддержке купца-мецената С. Ерзина была построена и в ней начались богослужения.

После того, как в 1937 году была закрыта мечеть на Большой Татарской, Новая мечеть стала называться Соборной, по праву являющейся главным центром мусульман не только столицы, но и Европейской части России. В здании, построенном рядом с мечетью, находится Духовное Управление мусульман Европейской части России (ДУМЕР), а также Высший исламский колледж. Двери Соборной мечети всегда открыты для всех верующих и людей с добрым сердцем и чистыми помыслами.