1965 yılında Ordu İlinin Fatsa İlçesinde doğdu. İlk ve Orta öğrenimini Fatsa İlçesinde tamamladı. 1987 yılında Ankara Üniversitesi Siyasi Bilgiler Fakültesi Kamu Yönetimi Bölümünden mezun oldu.
Mülki İdare Amirliğine 1988 yılında Konya Kaymakam Adayı olarak başladı. Sırasıyla Eskişehir Sarıcakaya Kaymakam Vekilliği, Çorum Dodurga Kaymakamlığı, Batman Beşiri Kaymakamlığı, Ağrı Vali Yardımcılığı, Rize Hukuk İşleri Müdürlüğü, Rize Vali Yardımcılığı, Yozgat Vali Yardımcılığı, Reyhanlı Kaymakamlığı, Lüleburgaz Kaymakamlığı, Şahinbey Kaymakamlığı ve Keşan Kaymakamlığı görevlerinde bulundu.
Son olarak 27.05.2025 tarihli ve 2025/205 sayılı Cumhurbaşkanı Atama Kararı ile Bursa Karacabey Kaymakamı olarak atanan Cemalettin YILMAZ , evli ve 3 çocuk babasıdır.