Kementerian Agama yang saat lahirnya bernama Departemen Agama tidak dapat dilepaskan dari kenyataan historis bangsa Indonesia yang demikian besarnya terhadap pembinaan kehidupan kerohanian. Terbentuknya Departemen Agama adalah pelaksanaan dari pasal 29 Undang-Undang Dasar 1945. Satu hal yang perlu kita catat dari kelahiran Departemen Agama yaitu bahwa Departemen ini didirikan setelah ada usul dari tokoh-tokoh Islam. Usul itu dengan mudah diterima oleh Pemerintah sebab selain sebagai realisasi dari pasal 29 Undang-Undang Dasar 1945, juga sebagai imbalan dan penghargaan atas sikap umat beragama, khususnya umat Islam yang bersedia menghilangkan tujuh kata dalam Piagam Jakarta, yaitu dengan kewajiban menjalankan syariat Islam bagi pemeluk-pemeluknya menjadi “Ketuhanan Yang Maha Esa†dalam sidang Panitia Persiapan Kemerdekaan Indonesia tanggal 18 Agustus 1945.
Pada tahap permulaan kegiatan Departemen Agama hampir 100% mengurusi agama Islam, hal itu disebabkan :
Secara obyektif, memang volume kegiatan keagamaan di sektor Islam;
Secara historis Umat Islam merasa memiliki Departemen Agama, karena tokoh- tokoh Islamlah yang memperjuangkan adanya Departemen Agama;
Kelompok-kelompok agama lain pada mulanya tidak begitu menaruh perhatian kepada Departemen Agama, seperti misalnya agama Kristen dan Katolik. Sebab sesuai dengan prinsip agama mereka, kegiatan keagamaan hendaknya terpisah dari negara. Dengan kata lain negara tidak usah mencampuri urusan agama;
Sarana dan mekanisme organisasi keagamaan di kalangan Umat Islam sudah tersusun semenjak zaman kerajaan-kerajaan Islam dan di zaman penjajahan tetap dipelihara. Setelah Departemen Agama terbentuk, organisasi yang mengurus keagamaan yang sudah ada itu mudah saja dialihkan di bawah lingkungan Departemen Agama.
Dewasa ini, sesuai dengan perkembangan situasi dan kondisi, perkembangan Kementerian Agama mulai memperlihatkan cakrawala yang lebih luas dan melalui perkembangan restrukturisasi dan refungsionalisasi sehingga setiap kelompok agama mendapat tempat dan pelayanan yang wajar.