Dalam perkembanganya, Yayasan Pendidikan Islam MUWAHIDUN, mengalami tiga fase :

1. FASE PERINTISAN

PERGURUAN ISLAM MUWAHIDUN pertama kali dirintis oleh KH Abdul Wahid Hasyim pada tanggal 2 Februari tahun 1967 di Desa Bageng Kecamatan Gembong, yang pada awalnya berupa PGAI (Pendidikan Guru Agama Islam) Muwahidun dengan progam pendidikan 4 Tahun dan 6 Tahun. Adapun tokoh perintis dan susunan pengurusnya pada masa itu adalah :
 
Ketua               : KH Abdul Wahid Hasyim.
Sekretaris        : Ahmad Thohirin.
Bendahara      : Masqub Bhisri.
Pembantu       : Moch Suhadi Shodiq.
 
Tujuan PGAI MUWAHIDUN adalah “ Membentuk manusia muslim yang berilmu pengetahuan dan berpandangan luas, cerdas dan berakhlaqul karimah.”
Dari tahun ke tahun PGAI MUWAHIDUN mengalami perkembangan yang baik, sehingga dari tahun 1967 sampai dengan 1979 telah menamatkan sebanyak 209 siswa pada Progam PGAI 4 Tahun dan 17 siswa pada Progam PGAI 6 Tahun.

Pada tahun 1979 dikeluarkan peraturan pemerintah tentang Yayasan dan PGAI Swasta, maka pada tahun tersebut Progam PGAI 4 tahun berubah menjadi Mts Muwahidun dan Progam PGAI 6 tahun berubah menjadi MA Muwahidun, dengan masing masing jenjang ditempuh selama 3 Tahun.

Pada tahun yang sama juga MTs dan MA Muwahidun mendapat wakaf sebidang tanah dari  seorang Modin (pemuka agama) Dukuh Bergat, Gembong untuk didirikan Madrasah, maka MTs dan MA Muwahidun pindah ke Dukuh Bergat, Desa Gembong. Selang beberapa waktu kemudian Yayasan Pendidikan Islam Muwahidun bisa membebaskan lahan sendiri di dukuh yang sama, yang kemudian  MA Muwahidun pindah ke lahan tersebut, sedangkan MTs Muwahidun tetap berada di lahan wakaf.

2. FASE AFFILASI

Karena kekurangan dana untuk menyokong operasional yayasan, membuat KH Abdul Wahid Hasyim terpaksa mengurangi aktivitasnya di yayasan, dan akhirnya fokus berbisnis. Beliau juga melakukan kaderisasi, dengan menyekolahkan berberapa anak ke berbagai universitas dan pesantren di Indonesia,seperti : Maahid Kudus, Al Mukmin Ngruki dan lain-lain dengan harapan dapat kembali dan mengurus Yayasan.

Karena keterbatasan jumlah pengelola, mengakibatkan penurunan kualitas dan kuantitas peserta didik, sehingga mengharuskan MTs Muwahidun berafiliasi dengan MTs Negeri Winong Pati untuk menjaga eksistensinya. Adapun MA Muwahidun masih eksis, namun kondisinya sangat memprihatinkan.

Setelah berjalannya waktu, para pengelola MTs Muwahidun Affiliasi menginginkan MTs Muwahidun untuk dinegerikan. Sehingga pada tahun 1997 MTs Muwahidun berubah menjadi MTs Negeri Gembong yang saat itu gedungnya masih berada di lahan wakaf di dukuh Bergat. Keaadan tersebut berjalan beberapa tahun, hingga MTs Negeri Gembong mampu membebaskan lahan sendiri di Desa Wonosekar, sekaligus menandai berakhirnya MTs Muwahidun.

3. FASE TERPADU

Setelah MTs Muwahidun dingerikan pada tahun 1997 dan pindah di Desa Wonosekar, pada awal tahun 2003, Putri Kedua KH Abdul Wahid Hasyim, Ustadzah Ernayati Zahroh dan suaminya Ust Drs Haryanto (Mantu KH Abdul Wahid Hasyim) bersama Ust Ali Zuhri (Murid KH Abdul Wahid Hasyim) merintis MTs baru dengan konsep Terpadu yang diberi nama : MADRASAH TSANAWIYAH TERPADU MUWAHIDUN, beserta Pondok Pesantren nya. Hal tersebut didasari oleh rasa ingin menghidupkan kembali MTs Muwahidun yang telah mati. 

Pada tahun 2003, angkatan pertama berhasil mendapatkan 16 siswa ,tapi lama kelamaan tersisa 9 siswa dan tidak seluruhnya mondok.

Pada tahun 2004, angkatan kedua berhasil mendapat 20 siswa dan tidak seluruhnya mondok.Pada tahun ini dibuatlah Visi dan Misi Yayasan Pendidikan Islam MUWAHIDUN yang baru. 

Pendirian Pondok Pesantren MUWAHIDUN di latar belakangi oleh upaya merintis kader Ulama yang memiliki pemahaman Islam yang benar ( shohih ) dalam masalah  Aqidah, Syari`ah dan Manhaj serta  memiliki wawasan yang luas sebagai upaya untuk membentengi diri dari berbagai pemahaman Islam yang cenderung sekuler, liberal dan mengesampingkan  nilai nilai Islam sebagaimana yang dipahami oleh para Ulama Salaf

MISI (Tahun 2004)
1. Membekali santri dengan Ilmu Agama berupa Aqidah,Syari’ah dan Akhlaq sesuai dengan Al-Qur’an dan As-Sunnah dengan pemahaman Ulama’ Salaf.
2. Membekali santri dengan Ilmu Umum agar mampu bersaing ke tingkat yang lebih tinggi.

3. Membekali santri dengan keterampilan untuk bisa terjun ke Masyarakat.

Pada saat itu di dalam Yayasan ada dua lembaga yang setingkat yaitu : MA Muwahidun jurusan IPS dan MA TERPADU Muwahidun jurusan IPA. Keadaan seperti itu berlanjut hingga tahun 2011 dan akhirnya MA Muwahidun hilang tergerus zaman.

Pada tahun 2012 seluruh lembaga pendidikan di Yayasan Pendidikan Islam Muwahidun menjadi Terpadu sampai sekarang dan seluruhnya mondok.