1952 yılında Bolu'nun Seben ilçesinde doğdu. İlk öğrenimimi Seben İlkokulu'nda, orta öğrenimimi Bolu Öğretmen Okulu'nda tamamladı. 1970-1972 yılları arasında Seben İlkokulu'nda öğretmenlik yaptı. 1972 yılında girdiği Sakarya Devlet Mimarlık ve Mühendislik Akademisi'nden 1976 yılında birincilikle mezun oldu. 1976-1977 yılları arasında Zirai Donatım Kurumu Adapazarı Müessese Müdürlüğü'nde çalıştı. 1978 yılında Sakarya D.M.M. Akademisi uzman mühendislik kadrosunda araştırma görevlisi olarak görev yaptı.

1980 yılında askerlik görevini tamamladı ve 1983 yılına kadar serbest mühendislik ve taahhüt işleriyle meşgul oldu. 1983-86 yılları arasında Suudi Arabistan'da inşaat mühendisi olarak çalıştı. Halen Bolu'da inşaat, tekstil ve yan sanayi sektöründe hizmet veren şirketlerde ortaklıkları vardır.

Suudi Arabistan, Mısır, İspanya, Fransa, Almanya, Hollanda, Belçika, Brezilya gibi ülkelerin bir çok kentinde şehircilikle ilgili gözlemlerde bulundu.

On yıldır Bolu Belediyesi Meclis üyeliği yapmaktadır. Belediyecilikle ilgili çok sayıda seminer ve sempozyumlara katılmış olup, AK PARTİ Kurucu İl Başkanlığı görevinde bulunmuştur. Evli ve iki çocuk babası olan YILMAZ,  28 Mart 2004 Yerel Seçimlerinde Bolu Belediye Başkanı seçilmiştir.