پیش از دهه شصت، تشکلی از ورزشکاران و دوستداران طبیعت به همت جمعی از کوهنوردان هیأت استان تهران شکل گرفت و تا سال ۱۳۶۲ فعالیت کرد. از سال ۱۳۶۲، گروه کوهنوردی تهران از دل این مجموعه متولد شد و فعالیت خود را آغاز کرد.
آیین‌نامه و اساسنامه اجرایی این گروه در تاریخ ۱۶ اردیبهشت ۱۳۶۲ به تصویت هیأت استان تهران رسید. مکان تشکیل نخستین جلسات رسمی گروه باشگاه‌های حجاب و استقلال بود و در برخی از موارد هم اعضای گروه در منازل خود این جلسات را میزبانی می‌کردند. در سال ۱۳۶۵ اتاقی واقع در طبقه دوم ساختمان مسجد استادیوم شهید شیرودی از طرف فدراسیون کوهنوردی در اختیار گروه قرار گرفت که در نهایت پس از اعتراض گروه‌های کوهنوردی دیگر استان (که آنها نیز محل مناسبی برای گروه خود نداشتند) آن را ترک کرد. گروه کوهنوردی تهران، از سال ۱۳۷۱ تا ۱۳۸۵ در باشگاه تکاور (واقع در ضلع شمال غربی پارک بسیج) به فعالیتهای ورزشی خود ادامه داد. از پاییز سال ۱۳۸۵ جلسات گروه در ساعت ۱۷ روزهای سه‌شنبه هر هفته در سالن مهر و سپس تالار آینه مرکز تشکل‌های مردمی (واقع در خیابان استاد نجات‌الهی؛ نبش خیابان ورشو) تشکیل می‌شد.
از سال ۱۳۸۸ تا آذر ۱۳۹۰ گروه کار خود را در دفتری واقع در میدان فردوسی دنبال کرد و در نهایت با همت و همدلی اعضای خود موفق به خریداری دفتری در میدان انقلاب گردید و سرانجام محل دائمی گروه کوهنوردی تهران شکل گرفت. پس از این مرحله با پیگیری گروه، مجوز باشگاه از اداره کل ورزش و جوانان استان تهران دریافت شد. علاوه بر این باشگاه کوهنوردی تهران در قالب یک موسسه غیرانتفاعی با عنوان «موسسه باشگاه ورزشی کوهنوردی تهران» تحت شماره ۲۸۷۳۶ و شناسه ملی ۱۰۳۲۰۷۲۶۰۳۵ و با موضوع «انجام و اجرای کلیه برنامه‌های کوهنوردی، سنگنوردی، یخنوردی، دیواره‌نوردی، دره‌نوردی، غارنوردی، کویرنوردی، صعودهای ورزشی، صعودهای بلند (هیمالیانوردی)، اسکی، اسکی کوهستان، دوچرخه‌سواری کوهستان و کلیه رشته‌های ورزشی مرتبط با کوهستان و طبیعت و انجام کلیه آموزش‌های تئوری و عملی کوهنوردی در محیط دفتری و طبیعت در داخل و خارج از کشور» در اداره کل ثبت شرکت‌ها و موسسات غیرتجاری به ثبت رسید.
هیئت مسئولین باشگاه کوهنوردی تهران در فروردین و مهر ماه هر سال، تقویم ورزشی ۶ ماهه خود را بر اساس نظرات و پیشنهادهای اعضاء تنظیم و منتشر می‌نماید و در پایان هر سال نیز گزارش عملکرد سالانه خود را منتشر می‌کند.
نشانه یا لوگوی باشگاه با الهام از طبیعت در قالب یک دایره طراحی شده است که نمای درونی آن یک رشته کوه بوده و در حاشیه دور آن نام باشگاه کوهنوردی تهران و سال تاسیس آن درج شده است.
