Cikal bakal berdirinya Pesantren Modern Terpadu (PMT) didasarkan pada konsensus (kesepakatan bersama) di antara para Cendekiawan, Pemuka Masyarakat, Ulama-ulama dan Teungku-Teungku di Pidie tahun 1980an. Konsensus tersebut bermaksud untuk membentuk suatu lembaga pendidikan yang memadukan pendidikan dayah tradisional yang telah ada dengan pendidikan sekolah umum yang pada saat itu dijalankan oleh Departemen Agama, atau yang sekarang dikenal dengan Kementerian Agama. Cita-cita bersama turut didukung penuh oleh Pemerintah Kabupaten Pidie kala itu.

Menindaklanjuti kesepakatan bersama tersebut, maka pada tanggal 03 Mei 1983 dilakukan  pembentukan sebuah yayasan dan secara legalitas dicatat pada Kantor Notaris Ny. Hajjah Zahara Pohan dengan Nomor Akte: 5, tahun 1983. Kantor Notaris Ny. Hajjah Zahara Pohan tersebut beralamat:  1) Jln. Sri Ratu Safiatuudin 5 D, Banda Aceh. Sedangkat alamat 2) berlokasi di Jln. Gunung Merapi 24 C, Blower, Banda Aceh. Adapaun yayasan yang dilahirkan ini diberi nama ‘Yayasan Pesantren Modern Terpadu’ (YPMT).

Sejumlah Cendekiawan, Pemuka Masyarakat, Ulama-ulama dan Teungku-teungku di Pidie yang merupakan pendiri Dayah tersebut diangkat sebagai Dewan Yayasan dengan berbagai posisi, antara lain A. Wahid Hanafiah sebagai Ketua, HM Jamil Ibrahim dan Hasballah HS masing-masing sebagai Wakil Ketua. Selanjutnya, M. Nur Ali sebagai Sekretaris dan T.H. Mansur Gade dan M. Daud Hanafi masing-masing sebagai Wakil Sekretaris. Bendahara dipercayakan kepada M. Yahya Syam. Nurdin Abdul Rachman (Bupati Kabupaten Pidie kala itu), H. Ibrahim Abduh, T.H. Ya’cob Ali, Tgk A. Wahab Muridillah dan H. Muchtar Wahab duduk sebagai Dewan Penasehat Yayasan.

Pada awalnya Pesantren Modern Terpadu Madrasah Al Furqan (PMT MAF) hanya memiliki satu jenjang sekolah/ madrasah untuk tingkat Sekolah Lanjutan Tingkat Pertama (SLTP) yang dinamakan Madrasah Tsanawiyah Al Furqan. Sekolah Lanjutan Tingkat Atas (SLTA) baru dibuka di tahun 1989/1990 yang dinamakan Madrasah Aliyah Al-Furqan.