این مسجد در زمان عمربن عبدالعزیز ساخته شد و در عصر عباسی و عصر عثمانی تجدید بنا شد و این مسجد در ابتدا کوچک بوده و از گل و سنگ ساخته بود و زائران در زمان موسم حج راحت نبودند و به همین دلیل فهد بن عبدالعزیز دستور تجدید بنا و توسعه آن را صادر کرد. با افزایش زائران، ظرفیت این مسجد چند برابر شد و به سرویسهای بهداشتی و حمام نیز افزوده شد. این مسجد مربع شکل و در مساحت 6 هزار متر مربع ساخته شده و دو رواق دارد که حیاطی وسیع به مساحت یک هزار متر آنها را از هم جدا می کند.

این مسجد دارای قوسهایی است که به گنبدهایی به ارتفاع 16 متر منتهی می شود. این مسجد حداقل برای پنج هزار نمازگزار ظرفیت دارد و دارای مناره ای خاص شبیه راه پله مارپیچی است که 62 متر ارتفاع دارد. این مسجد به ساختمانهای احرام و وضوخانه متصل است و در سمت شرقی آن بازاری برای نیازهای حاجیان وجود دارد و در بخش غربی آن پارکینگ و درختهای نخل قرار دارد.