KEMAS pada asalnya dikenali dengan nama Bahagian Pelajaran Dewasa. Ia ditubuhkan secara rasmi oleh YAB Tun Abdul Razak Bin Hussien pada tahun 1961 melalui satu majlis yang diadakan di Rumah Persekutuan. Rasional penubuhan Bahagian Pelajaran Dewasa pada waktu tersebut diwujudkan setelah negara mencapai Kemerdekaan pada 1957 di mana satu bancian yang telah dilakukan pada tahun yang sama dan didapati
seramai 1,868,948 orang dewasa dan 2,379,213 orang kanak-kanak yang berumur antara 10 hingga 14 tahun tidak tahu membaca dan menulis. Dapatan kajian ini dilihat menjadi penghalang utama untuk kerajaan melaksanakan agenda pembangunan negara. Pada tahun 1958, Persidangan Pembangunan Masyarakat Kedua telah diadakan di Kuala Lumpur dan ia merupakan lanjutan dari Persidangan Pembangunan Masyarakat Pertama yang telah diadakan pada tahun 1953 di Taiping. Hasil daripada persidangan tersebut, satu perakuan oleh Jawatankuasa Khas Pelajaran Dewasa yang bermesyuarat pada 3hb Ogos 1960 telah dibincangkan di peringkat kabinet pada tahun yang sama melalui Kertas Kabinet Bil. 385/25/60. Fokus perbincangan kertas kabinet tersebut adalah memberi keutamaan terhadap pelajaran asas kepada rakyat yang buta huruf melalui Rancangan Pelajaran Dewasa sehinggalah satu kelulusan telah dikeluarkan untuk menubuhkan Bahagian Pelajaran Dewasa dan diletakkan di bawah Kementerian Pembangunan Negara dan Luar Bandar.
