Masjid adalah rumah Allah SWT, tempat sujud Umat Islam kepada Khaliknya. Sejak masjid pertama ( Masjid Quba ) didirikan oleh Rasulullah, fungsi Masjid tidak hanya sematamata sebagai tempat shalat, tetapi juga sebagai pusat pembinaan Umat Islam, dalam rangka Hablun minallah dan Hablun minannas.
Konsep perencanaan arsitektur Masjid Raya Pondok Indah mengacu pada arsitektur masjid tradisional. Salah satu ciri masjid tradisional yang banyak tersebar di seluruh nusantara beratap susun, dan kebanyakan bersusun tiga lapis. Bertolak dari konsep tersebut maka perencanaan Masjid Raya Pondok Indah dirancang sedemikian rupa sehingga tercipta bentuk baru, namun tetap mengekspresikan bentuk masjid beratap susun tiga, serasi dan menyatu dengan lingkungan. Menara masjid yang tingginya 50 meter, berbentuk runcing ke atas yang berakhir pada bulan bintang, mencerminkan bentuk seberkas cahaya yang menerangi bumi dari bulan bintang, yang melambangkan bahwa Islam merupakan cahaya penerang bagi bumi beserta seluruh alam.
Lantai atas yang merupakan ruang shalat terdapat dinding kiblat, tanpa ruang mihrab karakter ini merujuk pada Masjid Quba yang dibangun oleh Rasulullah. Pada dinding mimbar dipahat kaligrafi dua kalimah syahadat sebagai rukun Islam pertama yang merupakan ikrar kesaksian atas kebenaran Allah SWT dan Nabi Muhammad SAW sebagai RasulNya. Untuk menambah keagungan rumah Allah ini, di sekeliling bagian atas ruang shalat dipahat kaligrafi Asmaulhusna (namanama Allah SWT).
Masjid ini terdiri dari dua lantai, lantai atas digunakan untuk Ruang Shalat Utama sedangkan lantai bawah untuk Ruang Serbaguna. Secara keseluruhan Masjid ini dapat menampung sekitar 2.600 jemaah di lantai atas dan bawah.
Struktur bangunan Masjid ini dibuat dari beton bertulang dan rangka atap baja, semua material struktur dan finishingnya diusahakan menggunakan bahan alam dengan maksud supaya umat yang menggunakan masjid ini akan lebih dekat dengan alam dan dapat menghayati kebesaran Sang Penciptanya. Masjid ini juga dilengkapi dengan ruang wudlu, perpustakaan, ruang kantor, gedung dan ruang jaga. Dalam pengolahan tapak, ruangruang tersebut sengaja ditempatkan di bawah permukaan tanah, dengan maksud agar bangunan Masjid tidak terhalang oleh bangunanbangunan lain, sehingga penampilannya akan menjadi lebih anggun.
Masjid Raya Pondok Indah dibangun atas prakarsa Pendiri Yayasan Masjid Raya Pondok Indah yang diketuai oleh Bapak H. SUDWIKATMONO dan didukung oleh Yayasan Pondok Indah dan PT. Metropolitan Kencana Jakarta.
Perencanaan pembangunan Masjid Raya Pondok Indah dipimpin langsung oleh Bapak IR. H. ISMAIL SOFYAN. Pembangunan dimulai pada tahun 1990 selesai tahun 1992 dengan biaya + 12 milyard ( nilai bangunan dan tanah ).
Peletakan batu pertama pembangunan Masjid Raya Pondok Indah dilaksanakan pada tanggal 11 Januari 1991 pukul 11.00 W.I.B. oleh Gubernur Kepala Daerah Khusus Ibukota Jakarta Bapak WIYOGO ATMODARMINTO.
Peresmian Masjid Raya Pondok Indah dilaksanakan pada Hari Jumat tanggal 4 Desember 1992 pukul 11.00 W.I.B. oleh Bapak H. SUDHARMONO, SH ( Wakil Presiden Republik Indonesia ) dilanjutkan dengan kegiatan Shalat Jumat pertama kali. Pada tanggal 2 Desember 1992 dilaksanakan serah terima Tanah dan Bangunan Masjid Raya Pondok Indah dari PT. Metropolitan Kencana/Yayasan Pondok Indah kepada Pemerintah DKI Jakarta dengan Berita Acara Nomor : 1828 Tahun 1992 dan juga serah terima Pengurusan dan Pengelolaan Masjid Raya Pondok Indah dari Pemerintah DKI Jakarta kepada Yayasan Masjid Raya Pondok Indah dengan Berita Acara Nomor : 1829 Tahun 1992.
Dalam perkembangannya sesuai dengan hasil Keputusan Rapat Para Badan Pendiri Yayasan Pondok Mulya, Yayasan Masjid Raya Pondok Indah, Yayasan Masjid Puri Indah, Yayasan Muslim Bumi Serpong Damai, tentang hubungan Yayasan Pondok Mulya dan Yayasan Masjid Raya Pondok Indah diputuskan bahwa Yayasan Pondok Mulya adalah Yayasan Induk yang menangani manajemen pengelolaan, sedangkan Yayasan Masjid Raya Pondok Indah adalah Yayasan lokal untuk pemeliharaan aset di bawah koordinasi Yayasan Pondok Mulya.