در سن 22 سالگی با دختر عموی خود در اراک ازدواج کرد که ثمره این وصل هفت فرزند است، پس از وفات پدر در سال 1331 هجری شمسی تصمیم به مهاجرت به نجف اشرف و بهره‌گیری از برکات معنوی مجاورت حرم حضرت امیرالمؤمنین می‌گیرد و در نهایت در سال 1332 شمسی در نجف اشرف ساکن شده و از محضر حضرات آیات سیدجمال گلپایگانی، سیدمحمود شاهرودی، حمامی، سیدمحسن حکیم، سیدعبدالهادی شیرازی و سیدابوالقاسم خوئی تلمذ کرد.
وی در سال 1331 شمسی موفق به اخذ اجتهاد از پدرش آیتالله سیدمحمدتقی خوانساری شد، همچنین در سال 1345 در نامه‌ای که آیتالله خوئی نوشت به اجتهاد وی اشاره شده است.
آیتالله خوانساری در 15 سال اقامت اولیه در تهران هر روز پیش از ظهر در جلسه‌ای با حضور علما به مباحثه می‌پرداخت، پس از ارتحال تدریجی بزرگان این مباحثه، وی دیگر در این جلسات شرکت نمی‌کرد و به تحریر کتاب مدارک العروة الوثقی آیتالله سیدمحمدکاظم طباطبایی پرداخت. در زمینه امور سیاسی هم فعال بود، به گونه‌ای که وی نقش بسیار مهمی در نشست مشترک آیات خوئی، سیدمحمود شاهرودی با سیدمحسن حکیم در کوفه برای حمایت قاطع از مرجعیت امام خمینی(ع) داشت، وی درباره این ماجرا انیچنین نقل می‌کند: نهضت امام خمینی که شروع و تحرکات لازم از سوی فضلا و علمای حوزه علمیه قم آغاز شد، با انعکاس مطالب در حوزه علمیه نجف و نظر به سکون که آن زمان در آن حوزه حاکم بود، اینجانب نیز با کمک و همراهی بعضی از دوستان از فضلای عالیقدر حوزه تلاش‌هایی را آغاز و به تدریج در ابتدا مرحوم آیتالله خوئی نسبت به اهمیت و ضرورت اقدام‌های لازم در حمایت از نهضت اسلامی امام خمینی حساس و به گونه‌ای که در ابتدای امر آیتالله خوئی به صورت جدی وارد میدان و با صدور اعلامیه‌ها و تلگراف‌هایی همراهی جدی کردند.
آیتالله خوانساری در سال 1345 شمسی به دنبال دعوت یکی از تجار و متدینان تهران مسجدی را با هزینه شخصی در میدان نامجو احداث و وقف می‌کند و به این ترتیب به تهران مهاجرت می‌کند، مدت 12 سال در این مسجد حضور مستمر داشته و شب‌های شنبه اعتقادات را تدریس می‌کرد، حضور پررنگ در راهپیمایی‌های انقلاب در حمایت از نهضت اسلامی در کارنامه فعالیت‌های سیاسی آیتالله خوانساری مشهود است، در همان روزهای اولیه پیروزی انقلاب در پی درخواست جمع کثیری از بزرگان و متدینان بازار تهران از سوی امام خمینی(ره) به امامت مسجد امام خمینی در بازار تهران منصوب و طی حکم دیگری تولیت موقوفات آن مسجد نیز از سوی امام به وی واگذار می‌شود.
در مدت سی و چند سال گذشته پس از پیروزی انقلاب وی عهده‌دار امامت و تولیت موقوفات مسجد امام خمینی(ره) بود، همچنین تأمین هزینه احداث مسجد «امیرالمؤمنین علی بن ابیطالب» در زاهدان، مساعدت‌های مالی به حوزه های علمیه بعضی شهرهای کوچک نیازمند، کمک مالی نقدی به بازسازی منازل تخریب شده شیعیان مظلوم لبنان، حضور در جبهه حق علیه باطل تنها گوشه‌ای از فعالیت‌های آیتالله خوانساری است.
وی مدت 21 سال نیز نمایندگی مردم تهران در خبرگان رهبری را بر عهده داشت، سر انجام این عارف بالله و مجاهد نستوه در روز 28 بهمن ماه در تهران دارفانی را وداع گفت، در ادامه تصاویری از آیتالله سیدمحمدباقر خوانساری در زمان‌های مختلف می‌آید:
