Inspektorat Jenderal Depkes tidak terbentuk bersamaan dengan berdirinya Depkes. Fungsi pengawasan di lingkungan Depkes sampai dengan periode Pra Pelita belum berjalan efektif.

Berdasarakan Keputusan Presiden No. 170 tahun 1966 tanggal 1 Agustus 1966 tentang Struktur Organisasi Departemen Inspektorat Jenderal hanya diadakan pada Departemen yang memeriksa karena luas tugas dan kompleks administrasinya.

Saat itu fungsi pengawasan di Depkes yang merupakan unit pengawasan keuangan dibebankan pada suatu Bagian Pengawasan yang berada di bawah Biro Logistik Setjen Depkes.

Pada pertengahan Pelita I Inspektorat Jenderal Depkes di bentuk berdasarkan Keppres No. 01 tahun 1971 tentang Pembentukan Itjen Departemen Kesehatan, Itjen Departemen Sosial, Itjen Departemen Agama dan Itjen Departemen Tenaga Kerja.

Keputusan Presiden tersebut dilaksanakan dengan Keputusan Men.Kes No.46/Kab/ B.VII/1971 tanggal 2 Maret 1971 tentang pembentukan Inspektorat Jenderal Depkes dengan tugas pokok sebagai pembantu Menkes di bidang pengawasan Program Pengawasan Inspektorat Jenderal Depkes baru berjalan secara intensif sejak berfungsinya Itjen Depkes pada akhir Pelita I tepatnya tanggal 3 Desember 1973 ditandai dengan pemeriksaan yang dilakukan oleh Irjen Depkes yang pertama Dr.Brotoseno, ke Provinsi DI Yogya.

Berdasarkan Keputusan Presiden No. 44 dan 45 tahun 1974 Inspektorat Jenderal Depkes berkembang sebagai unsur pengawasan intern Depkes dengan tugas dan fungsi yang diperjelas dalam Kep.Menkes No.125/IV/Kab/BU/1975. Menurut Kep.Menkes tersebut, fungsi pengawasan di limpahkan kepada Itjen Depkes, tanpa mengurangi fungsi pengawasan yang melekat (built in control) pada diri pejabat atau Pimpinan Unit Kerja sebagai penanggung jawab kegiatan/program yang dilaksanakan.

Inspektorat Jenderal dipimpin oleh seorang Inspektur Jenderal yang membawahi :

1. 3 Orang Inspektur yaitu : Inspektur Kepegawaian, Inspektur Perlengkapan dan Keuangan,  serta Inspektur Tugas Umum dan Proyek Pembangunan.
2. Sekretaris yang dipimpin seorang Sekretaris Itjen yang membawahi 3 orang, Kepala Bagian PPL, Kabag Keuangan, Kabag Urusan Dalam serta 8 Kepala Sub Bagian.

Pada periode Pelita III organisasi Inspektorat Jenderal Depkes mengalami perubahan lagi. Keppres No. 44 dan 45 tahun 1974 tentang Susunan Organisasi Departemen diubah dengan Keppres No.47 tahun 1979 yang dijabarkan dengan Kep.Menkes No. 182/Menkes/SK/V/1980 tanggal 21 Mei 1980.

Dengan Keputusan Menteri Kesehatan tersebut Inspektorat Jenderal Depkes yang semula terdiri dari 3 orang Inspektur berubah menjadi 4 orang Inspektur, yaitu : Inspektur Perlengkapan dan Inspektur Keuangan dipisah menjadi Inspektur Perlengkapan dan Inspektur Keuangan.