این بنا شهرت عظیمی در اروپا پیدا کرد؛ بدان سان که بسیاری از کلیساها را از روی نقشه و طرز ساختمان آن بنا کردند و تنها مسجدی است که پیش مسلمانان و یهود و نصاری مقدس است.

این مسجد درست در همان مکانی ساخته شده که معبد مشهور سلیمان قرار داشته و هیرودس آن را مرمت کرد و تیتوس هنگامی که می خواست آن جا را از حریق نجات دهد، ساعتی در ابهت آن بنا متحیر شده بود و چنان چه نقل می کنند آن سنگی که ابراهیم خواست فرزندش را روی آن به خاطر فرمان الهی سر ببرد در همین مکان بود و روی هم رفته در عالم کمتر جایی است که مانند این مسجد اهمیت تاریخی و خاطرات گوناگونی داشته باشد و به این اندازه مقدس و مورد احترام همگان باشد؛ زیرا در این مسجد، سلیمان خدای یهود را عبادت کرده و رومیان خدای بزرگ ژوپیتر را که هم پادشاه خدایان و هم خدای مردمانش می دانستند در همین جا پرستش کرده اند، صلیبی ها صورت مسیح را در آن نهاده و هم اکنون مسلمانان خدای پیغمبر اسلام را در آن جا پرستش می کنند.

اهمیت مسجد عمر تنها به این که مرکز پرستش های گوناگونی بوده نیست، بلکه گذشته از این ها خود مسجد نیز از نظر ساختمان یکی از بناهای بسیار عالی و دینی است و در تمام فلسطین ساختمانی به آن عظمت و شکوه دیده نمی شود.

این بنای اسلامی ما را به یاد معماری های رومیان می اندازد، ولی سلاطین مسلمان که در هر دوره می آمده اند اصلاحات و تعمیراتی در آن کردند که طرز معماری اعراب را نیز در ادوار مختلف به ما نشان می دهد.

در وسط شبستان این مسجد همان سنگ متبرکی است که گویند ملکی صادق (پادشاه اورشلیم) و ابراهیم و داوود و سلیمان همگی قربانی های خود را روی آن انجام دادند و این همان سنگی است که در قله کوه مریه بوده و سلیمان هنگامی که کوه مزبور را برای معبد خویش هموار می کرد سنگ مزبور را به خاطر احترامی که داشت به حال خود گذارد و به طور قطع قربانی را روی همان انجام می داد.