Sesungguhnya Yayasan Gunung Merah mempunyai sejarah relatif panjang dan berliku.  Pengurus YGM sedang berusaha menyusun sebuah buku sejarah yang dimaksud, namun sejauh ini masih dalam proses penulisan. Untuk kebutuhan sementara, secara ringkas sejarah YGM dapat disampaikan sebagai berikut.

Seperti penuturan Hamdulllah Salim, mereka: 5 mahasiwa, semuanya kuliah di UGM, yakni Kamardy Arief (Fakultas  Ekonomi), Dawanis Sirin (Fak. Hukum), Syaifullah Rasy (FIPA), Sofyan Hasan (Fak. Hukum) dan Darmawis Jadibs (Fak. Ekonomi) dan 24 pelajar (SLTP dan SLTA). Tahun 1956 menyusul dua mahasiswa lagi, yakni Jurnalis Jalins dan Jurnalis Uddin, keduanya kuliah di Fak. Kedokteran UGM. Tahun berikutnya 1957 menyusul lagi Habibullah S.J dan Nurhasni Muluk (sebelumnya sekolah persiapan di PTAIN Yogya), Nasrullah Salim dan Zulkarnain Bustami (sebelumnya Sekolah Persiapan di UII Yogya). Demikian seterusnya disusul oleh mahasiswa-mahasiswa berikutnya yang semakin meningkat dari tahun ke tahun. Di tahun 1955 itu,  beberapa anggota IPPSA (Dawanis Sirin, Habibullah, Suardi Piliang Panjang, Fathullah Salim, Idrus Rasyidin dan Zulfikri Saladin) berdiam di sebuah rumah sewa (melanjutkan sisa kontrak Darwis St. Malano, Pak Etek Dawanis Sirin, yang pindah ke Jakarta) di Reksobayan Ngupasan (di belakang Istana Negara atau Gedung Agung).

Kebutuhan akomodasi adalah sebuah keniscayaan untuk seseorang yang sedang menuntut ilmu yang jauh di rantau. Tinggal di kost-kost adalah sebuah alternatif, tetapi tidak terlalu ideal. Maka atas dasar keperluan yang mendesak itulah, kemudian timbul usaha bersama yang dimotori oleh warga Sulit Air yang sudah berada di Yogyakarta, khususnya, ditopang pula oleh warga SAS di sekitar Yogyakarta, seperti Magelang, Solo dan Semarang bahkan Surabaya.

Tak kurang, dalam mencari dana untuk pengadaan asrama Gunung Merah, kerjasama indah dan kompak anggota IPPSA dan warga SAS, akhirnya membentuik apa yang disebut sebagai “Panitia Penyelenggara Asrama IPPSA” atau PPAI. Tim PPAI yang berjuang dan bekerja keras, sehingga harus mengunjungi berbagai kota lain bahkan sampai ke berbagai pelosok Sumatra seperti Lampung, Bengkulu, Kepaihiang, Baturaja, Muara Dua bahkan Taluk Kuantan.

Singkat cerita, kegigihan ketika itu membuah hasil, ketika dapat dibeli sebuah bangunan yang terletak di jalan Solo No, 51 walau dengan angsuran.

Sesuai ketentuan hukum yang disepakati saat pembelian, maka terhitung 5 Mei 1961, resmilah gedung itu menjadi hak milik dan kemudian dinamakan Wisma Gunung Merah. Tanggal 5 Mei dapat dicatat sebagai hari lahir WGM. Semua usaha dan proses pembelian ini dikelola oleh sebuah badan yang bernama “Panitia Penyelenggara Asrama IPPSA” atau PPAI (yang 3 tahun sebelumnya telah digagas oleh Sofyan Hasan),  dengan formasi dan personalia sebagai berikut:

Ketua Umum Zainal Abidin Tipo
Ketua I Syamsuddin BB
Ketua II Habibullah S. Dj
Sekretaris Umum Djalil Muluk
Sekretaris I Syarman Syam
Sekretaris II Fathullah Salim
Bendahara Umum Barmawi Miin
Bendahara I Rusli Munaf

Sesuai dengan ketentuan hukum ketika itu, bahwa tanah di Yogyakarta tidak diperbolehkan untuk dijual kepada bukan penduduk Yogyakarta. Atas dasar itu, dalam proses pembelian dibentuklah sebuah badan dengan nama Yayasan Pencinta Negara (YPN).