مادرش ليلي، مكني به «ام عاصم» دختر عاصم بن عمر بن خطاب است. (۱) بنابراين، عمر بن عبدالعزيز با دو واسطه به عمر بن خطاب (دومين خليفه مسلمانان) و با يك واسطه به مروان بن حكم (چهارمين خليفه امويان) منتهي مي‌گردد.
وي در سال ۶۱ و يا به روايتي ۶۳ قمري ديده به جهان گشود. (۲) با اينكه پدر و مادرش در شام و مصر زندگي مي‌كردند، او براي تحصيل و زندگي خود، مدينه منوره را انتخاب كرد و در نزد فق‌ها و دانشمندان اين شهر مقدس نبوي به تحصيل علم و ادب پرداخت.
در آن عصر، دشمني با خاندان پيامبر (ص) و اميرمؤمنان (ع) مرسوم و معمول بود و خلفاي اموي بر شدت آن مي‌افزودند. ولي وي در مدينه منوره با مناقب و فضايل حضرت علي (ع) و فرزندان بزرگوار وي آشنا شد (۳) و هنگامي كه به مقام خلافت رسيد، ناسزاگويي به مقام شامخ اميرمؤمنان (ع) را ممنوع كرد و باغستان فدك را به اولاد حضرت فاطمه زهرا (س) برگردانيد. (۴)
وي در ايام كوتاه مدت خلافت خود، اقدامات اصلاحي زيادي به عمل آورد و براي ترميم نابساماني‌هاي ستم كاران اموي و تقليل نارضايتي‌هاي مردمي، تلاش بليغي به عمل آورد. (۵)
مورخان اهل سنت، وي را «عمر صغير»، «عمر ثاني» و «اشج بني اميه» مي‌نامند و از وي به نيكي ياد مي‌كنند. (۶) ابن عساكر درباره وي گفت: و كان عمر بن عبدالعزيز ثقه مأمونا، له فقه، و علم، و ورع، و روي حديثا كثيرا، و كان امام عدل … (۷)
درباره علاقه وي نسبت به خاندان پيامبر (ص) نيز روايت شد كه در عرفه، مناجات مي‌كرد و در فرازي از مناجات و نيايش‌هايش مي‌گفت: اللهم زد محسن آل محمد (ص) احسانا، اللهم راجع بمسيئهم الي التوبه، اللهم حط من أوزارهم برحمتك. (۸)
سرانجام، پس از دو سال و پنج ماه حكومت، در ۳۹ سالگي بدرود حيات گفت. تاريخ درگذشت وي، بيست و چهارم رجب سال ۱۰۱ قمري و بنا به روايتي ديگر در جمادي سال ۱۰۲ قمري، در «دير سمعان» از مناطق شام بود.
وي، پيش از وفات، به مدت بيست روز بيمار بود و پس از آن وفات كرد و در همان دير سمعان به خاك سپرده شد. (۹)
گفته‌اند: هنگامي كه بني عباس بر امويان پيروز شده و پس از سركوبي آنان، مردگان بني اميه را از گور بيرون آورده و آتش مي‌زدند، متعرض قبر او نشدند.