1969 Nevşehir ili Kozaklı ilçesinde doğan Yılmaz, ilk ve orta öğrenimini orada tamamladıktan sonra 1988 yılında Marmara Üniversitesi Fen-Edebiyat Fakültesi Tarih Bölümünü kazanıp 1993de mezun oldu. 1991-92 arasında Prof. Dr. Murat Çizakçanın Osmanlı Tarihinde Bursa Para Vakıfları adlı çalışmasında asistanlık yaptı.
1993 yılında Bilkent Üniversitesi Ekonomi ve Sosyal Bilimler Enstitüsüne bağlı olarak Tarih Bölümü Osmanlı Tarihi Kürsüsünde Master programına kabul edilip, 1994 yılında aldığı burs ile araştırma yapmak üzere Oxford Üniversitesi Center for İslamic Studiese gitti. 1995 yılında halen çalışmakta olduğu fakültenin Yakınçağ Tarihi Anabilim Dalında Araştırma Görevlisi oldu. Aynı Anabilim Dalında doktora yapmaktadır.