Kementerian Agama untuk wilayah Sumatera, yang Provinsi Aceh termasuk salah satu di dalamnya, dibentuk beberapa bulan setelah Republik Indonesia memproklamirkan kemerdekaan, Jumat 17 Agustus 1945.

Lima bulan setelah Proklamasi Kemerdekaan RI, Departemen Agama didirikan pada tanggal 3 Januari 1946 yang berpusat di Jakarta. Bersama Menterinya yang pertama H. Rasjidi, BA (berdasarkan Penetapan Pemerintah Nomor 1/SD Tahun 1946) dan baru aktif pada tanggal 12 Maret 1946. Aktif setelah dicapainya konsensus dalam Rapat Bidang Pekerja Komite Nasional Pusat (BPKNP) tanggal 25 sampai 27 November 1946 bertempat di Fakultas Kedokteran Salemba Jakarta.

Adapun maksud didirikan Kementerian Agama adalah untuk memenuhi maksud pasal 29 UUD 1946 (pernyataan Menteri Agama I dalam Konferensi Dinas Djawatan Agama tanggal 17 Maret 1946 di Madura).

Seiring dengan waktu, organisasi Kementerian Agama mengembangkan strukturnya sampai ke setiap provinsi yang ada di seluruh Indonesia. Pada saat berdirinya Kementerian Agama pada tahun 1946, Sumatera masih merupakan satu Provinsi dengan Gubernurnya Mr. Teuku Moch. Hasan yang berasal dari Aceh. Djawatan Agama Sumatera oleh pemerintah dipercayakan kepada H. Muchtar Yahya, kedudukannya masih berada di bawah Gubernur.

Barulah pada tahun 1956, dengan berubahnya struktur pemerintahan, Daerah Aceh dijadikan Daerah Istimewa Aceh berkedudukan di Koetaradja (Banda Aceh) dan untuk memimpin Djawatan Agama Daerah Istimewa Aceh ditunjuk Tengku Wahab Seulimeum.

Kemudian dengan adanya Keputusan Menteri Agama No. 53 Tahun 1971 tentang Struktur Organisasi, Tugas, Wewenang dan Tata Kerja Instansi Kementerian Agama Daerah, jika sebelumnva sebagai koordinator ditunjuk Kepala Djawatan Urusan Agama sebagai Pimpinan Perwakilan Departemen Agama, maka sejak itu istilah Kepala Djawatan diganti dengan Kepala Perwakilan sebagai Pimpinan Perwakilan Departemen Agama Provinsi.

Pada masa ini, jabatan Kepala Perwakilan Departemen Agama Provinsi Daerah Istimewa Aceh berturut-turut diper­ca­yakan kepada H. M. Hasan, dilanjutkan dengan A. Kadir Thahir (AKTA), MA, Ibrahim Amin, dan H. Ibrahim Husin yang pada masa jabatannya keluarlah Keputusan Menteri Agama Nomor 18 Tahun 1975, sehingga terjadi perubahan nama perwakilan menjadi Kantor Wilayah Departemen Agama Provinsi Daerah Istimewa Aceh. Pada masa ini setelah Prof. H. Ibrahim Husin, kepala kantor berturut-turut dijabat oleh Drs. H. T. A. Mahmudi, Drs. H. Razali Azis, dan Drs. H. M. Nur Ali.

Seiring dengan dikeluarkannya Undang-Undang RI No. 18 Tahun 2001 tentang otonomi khusus bagi Provinsi Daerah Istimewa Aceh sebagai Provinsi Nanggroe Aceh Darussalam, maka disesuaikan lagi namanya menjadi Kantor Wilayah Departemen Agama Provinsi Nanggroe Aceh Darussalam dengan kepala kantor masih dijabat oleh Drs. H. M. Nur Ali dan kemudian digantikan oleh Drs. H. Ghazali Mohd. Syam.

Ketika Almarhum Drs. H. Ghazali Mohd. Syam memasuki masa pensiun pada tahun 2006 (menjadi Wakil Ketua dan selanjutnya menjadi Ketua MPU Aceh), maka sebagai Pgs. Kepala dipercayakan kepada Drs. H. A. Rahman TB, Lt yang pada masa itu menjabat sebagai Kepala Bagian Tata Usaha. Pada tanggal 2 November 2007 dia dilantik menjadi Kepala Kantor Wilayah Departemen Agama Provinsi Nanggroe Aceh Darussalam, dan menjabat sampai November 2011.

Sesuai dengan Peraturan Gubernur Aceh No. 46 Tahun 2009 tentang penggunaan sebutan nama Aceh, maka Kantor Wilayah Departemen Agama Provinsi Nanggroe Aceh Darussalam disesuaikan lagi namanya menjadi Kantor Wilayah Departemen Agama Provinsi Aceh. Pemerintah juga, melalui Peraturan Presiden No. 47/2009 tentang Pembentukan dan Organisasi Kementerian Negara, mengubah semua bentuk Departemen, Kantor Menteri Negara dan Kantor Menteri Koordinator menjadi Kementerian Negara, dan juga dengan adanya Peraturan Menteri Agama RI No. 1 Tahun 2010 tanggal 28 Januari 2010 tentang perubahan penyebutan Departemen Agama menjadi Kementerian Agama, maka Kanwil Departemen Agama Provinsi Aceh berubah namanya menjadi Kanwil Kementerian Agama Provinsi Aceh.

Pada akhir 2011 sampai awal tahun 2015, Kementerian Agama Aceh dikomandoi oleh Drs. H. Ibnu Sa'dan, M.Pd, yang sebelumnya Kepala Bidang Urusan Agama Islam pada Kanwil Kementerian Agama Provinsi Aceh dan Kepala Kantor Kementerian Agama Kota Subulussalam.

Selanjutnya Pada Bulan Maret 2015 sampai sekarang, Kantor Wilayah Kementerian Agama Provinsi Aceh dipimpin Oleh Drs. H. M. Daud Pakeh, sebelumnya ia menjabat sebagai Kepala Kankemenag Kota Sabang, Kepala Bidang Haji, Zakat dan Wakaf pada Kanwil Kemenag Aceh dan Kepala Kantor Kementerian Agama Kabupaten Aceh Jaya..

Demikian sejarah singkat perkembangan Kantor Wilayah Kementerian Agama Provinsi Aceh yang telah menempuh sejarah yang panjang menurut situasi dan kondisi yang ada.