از دیگر سو مردم یمن در طول تاریخ بشریت از پیشتازان جبهه حق علیه باطل بودند طوری که همواره یار و یاور پیامبران و رسولان بودند. آن‌ها اول قومی بودند که دعوت ابراهیم نبی را برای حج خانه خدا اجابت کردند. در این باره امام صادق(ع) در روایتی فرمودند: «إِنَّ إِبْرَاهِیمَ أَذَّنَ فِی النَّاسِ بِالْحَجِّ فَقَالَ أَیُّهَا النَّاسُ إِنِّی إِبْرَاهِیمُ خَلِیلُ اللَّهِ إِنَّ اللَّهَ یَأْمُرُکُمْ أَنْ تَحُجُّوا هَذَا الْبَیْتَ ...وَ کَانَ أَوَّلُ مَنْ أَجَابَهُ مِنْ أَهْلِ‏ الْیَمَن یعنی ابراهیم علیه‎السلام مردم را به حج دعوت کرد و فرمود: ای مردم من ابراهیم خلیل الله هستم. خداوند به شما فرمان می‌دهد که حج این خانه (کعبه) را به جا آورید... اولین کسانی که دعوت ابراهیم را اجابت کردند گروهی از یمنی‎ها بودند». ^{(الکافی: ج 4 ص٢)} در عصر پیامبر گرامی اسلام(ص) نیز یمنی‌ها از پیروان حضرت شدند و در دوران حکومت امیرالمؤمنین(ع) از شیعیان و محبان ایشان شناخته می‌شدند. کمیل‌بن زیاد نخعی یمانی از مشهورترین یاران یمنی امیر مؤمنان(ع) است که دعای معروف به «کمیل» یادگار ایشان از امام علی(ع) برای شیعیان است.

ارادات اهل یمن به اهل بیت پیامبر(ص)‌ همواره ادامه داشت تا جایی که عده‌ای از ایشان هنگام قیام امام حسین(ع) به کاروان حسینی پیوستند و در نهایت در واقعه کربلا جام شهادت را نوشیدند و به لقای پروردگار پیوستند. از جمله شهدای یمنی عاشورا، حَجّاج بْن مَسْروق مَذْحِجی جُعْفی از شیعیان کوفه و از اصحاب امام علی(ع) بود. وقتی امام حسین(ع) از مدینه به سمت مکه حرکت کرد، او نیز از کوفه به مکه رفت و به کاروان امام پیوست ^{(ابصار العین، ص151)}

در منزل ذو حسم که کاروان امام با سپاه کوفه به فرماندهی حر بن یزید ریاحی برخورد کرد، هنگام ظهر امام به حجاج بن مسروق فرمود اذان بگوید ^{(تاریخ طبری، ج5، ص401)} وقتی کاروان به منزل قصر بنی مقاتل رسید، امام حسین(ع) خیمه‌ای برافراشته دید. پرسید این خیمه برای کیست؟ گفتند برای عبیدالله بن حر جعفی. امام حجاج بن مسروق را نزد او فرستاد تا از وی برای یاری امام دعوت کند اما او دعوت امام را نپذیرفت ^{(ابصار العین، ص151؛ ذخیرة الدارین، ص407)}

روز عاشوراچون تنور جنگ داغ شد وى با اجازه امام(ع) به میدان رفت و پس از مدتى مبارزه در حالى که چهره‌اش غرق خون شده بود به سوى آن حضرت برگشت و این رجز را خواند:
«فَدَتْکَ نَفْسی هادیاً مَهْدِیّاً *** اَلْیَوْمَ اَلْقى جَدَّکَ النَّبیَّا
ثُمَّ اَباکَ ذَا النَّدى عَلِیّاً *** ذَاکَ الَّذی نَعْرِفُهُ الوَصِیّا»
(جانم به قربان تو اى هدایت‌گرِ هدایت شده، امروز جدّت پیامبر را ملاقات خواهم کرد. سپس پدرت على، آن صاحب فضل و احسان را، همان کسى که او را وصىّ پیامبر مى شناسیم). در این حال امام علیه‌السلام به او فرمود: «نَعَمْ وَاَنَا اَلْقاهُما عَلى اَثَرِکَ؛ رى، من هم آن دو بزرگوار را پس از تو ملاقات خواهم کرد». آنگاه حجاج پا به میدان نبرد گذارد و به لقای الهی پیوست. در زیارت ناحیه و زیارت رجبیه امام حسین(ع) آمده است: «السَّلَامُ عَلَی الْحَجَّاجِ بْنِ مَسْرُوقِ الْجُعْفی».