Історія мусульманської громади в Києві налічує без малого тисячу років. Арабський мандрівник з Аль-Андалуса (тепер Іспанія. — Авт.) Абу Хамід аль-Гарнаті, що відвідав Київ на початку XII ст., писав:
«І прибув я до міста слов’ян, що його називають „Гор[од] Куяв“ (Київ). А в ньому — тисячі „магрибинців“, з вигляду тюрків, що розмовляють тюркською мовою та стріли пускають, як тюрки. І відомі вони в цій країні під іменем беджн[ак]. І зустрів я чоловіка з-поміж багдадців, що називається Карім ібн Файруз аль-Джавхарі, він був одружений з [дочкою] одного з цих мусульман. Я влаштував цим мусульманам п’ятничну молитву й навчив їх хутби, а вони не знали п’ятничної молитви».
Мабуть, уже тоді в Києві з’явилося перше мусульманське молитовне приміщення, а можливо, й повноцінна мечеть. Відомо, що в XIV столітті в Києві тривалий час перебував золотоординський гарнізон, що складався здебільшого з мусульман, і це непрямо свідчило про наявність мечеті в місті. Де вона була, тепер достеменно не відомо. Є припущення, що район Києва, відомий як Татарка, з давніх-давен був заселений татарами, вихідцями з Золотої Орди і Кримського ханства. І в цьому ж таки районі був знищений у 1960-х роках мусульманський цвинтар.
1897 року в Російській імперії відбувся перший загальний перепис населення. За цим переписом мусульманське населення Києва становило близько 500 душ. До цього числа треба додати чимало студентів, купців і сезонних робітників з Поволжя, Криму та Кавказу, що тимчасово перебували в місті. На той час у Києві не було жодної мечеті. Та вже незабаром після перепису в будинку № 5 на вулиці Мирній з’явився перший офіційний молитовний дім.
Водночас із відкриттям молитовного дому почали обговорювати питання будівництва мечеті, що могла б умістити всіх вірних. Після подання відповідного звернення Київська міська дума влітку 1908 року ухвалила рішення про безоплатну передачу «міської ділянки на Гоголівській вул., між № 29 і 31, під улаштування мечеті, школи та інших потрібних будівель». А ще створили Комітет збору пожертв на будівництво мечеті. Цей комітет очолив титулярний радник Мурза-Мурзич.
Основною проблемою під час будівництва молитовної споруди було фінансування проєкту. Київська мусульманська громада не була заможна, більшість вірних були люди середніх статків. Лише до 1910 року вдалося профінансувати створення проєкту. Його авторами стали архітектор Кобелєв та інженер Феокритов. Будівля мала вміщувати щонайменше 800 вірних. Ескіз проєкту надрукували на поштових картках, що їх активно продавали, а виторг надходив до фонду будівництва мечеті. Завдяки цим листівкам тепер можемо уявити, яка мала б бути на вигляд будівля мечеті, якби проєкт удалося завершити.
У жовтні 1913 року відбулася урочиста церемонія закладин першого каменя у фундамент мечеті. На той час мусульманам Києва вдалося зібрати на будівництво 10 тисяч рублів — лише чверть потрібної суми. Імовірно, умма сподівалася, що решту коштів удасться зібрати, поки триватиме будівництво. Але 1 серпня 1914 року почалася Перша світова війна, а слідом за нею — хаос революційних подій 1917 року. За цих обставин про жодне будівництво мечеті вже не йшлося.
Комуністичний режим, що прийшов до влади, всіляко перешкоджав будь-якій релігійній діяльності. Лише в 1990-х роках мусульмани Києва змогли відновити своє релігійне життя, не побоюючись репресій влади.
