1893 yılında Kurşunlu Camii civarındaki Seyfullah Efendi Konağı’nda "Derece-i Ula Mekteb-i Mülkiye İdadisi" adıyla hizmete girdi. Üç yıl rüştüye, 2 yıl idadi olmak üzere 5 yıl süreli bir okuldu. Öğrenci sayısının artması üzerine neo-klasik üsluptaki mevcut okul binasının temeli 1903’te atıldı; önce birinci kat tamamlandı. 1915 yılında "Sultani"’ye dönüştürüldü. İkinci katının inşası 1916’da tamamlandı. Kurulduğu günden itibaren, Ermeni ve Rumlara yönelik kurulmuş olan Talas Amerikan Okulu ile rekabet etti. Balkan Savaşı ve I. Dünya Savaşı okulun öğrenci sayısının azalmasına neden oldu.1921 yılında okul Ankara Sultanisi ile birleştirilip 12 yıllık tam teşkilâtı yatılı sultanî durumuna getirildi.
İstiklal Savaşı devam ederken 24 Temmuz 1921’de TBMM’nin hükümet merkezini Kayseri’ye taşıma kararı vermesi üzerine lise binası TBMM toplantıları için hazır hale getirildi. Ancak Sakarya Savaşı’nın kazanılması üzerine hükümetin Kayseri’ye taşınması kararından vazgeçildi. Okulun son sınıf öğrencilerinin tamamı eğitimlerini yarıda bırakıp cepheye gittiği ve Sakarya Muharebesi'nde şehit düştükleri için 1921’de okul mezun vermedi. Bu kahramanlık hikayesini şair Cahit Külebi, müfettişlik yaptığı sırada okulun kayıtlarını incelerken ortaya çıkardı. Savaşta şehit düşen öğrenciler anısına okul bahçesinde bir anıt mevcuttur.
1922’de Kayseri Lisesi’ne edebiyat öğretmeni olarak atanan ve 2 yıl görev yapan şair Faruk Nafız Bey, savaşta şehit düşen öğrencilerin anısına "Kayseri Lisesi Marşı"nı yazdı. Okulda, ileride tanınmış bir şair olacak Behçet Kemal’in öğretmeni oldu.
1923 yılında okulun adı "Sultani"den "Lise"ye dönüştürüldü. 14 Ekim 1924'te Mustafa Kemal Paşa, eşi Latife Hanım ile birlikte çıktığı yurt gezisinde Kayseri’yi ziyareti sırasında Kayseri Lisesi’ni de ziyaret etti. Okulun öğrencisi Behçet Kemal’in yaptığı konuşma ile açılan törende Mustafa Kemal’i çok duygulandıran bir müsamere sergilendi. Mustafa Kemal Paşa, memnuniyetinin ifadesi olarak okula bir yağlıboya tablosunu hediye etti.
Okul, 1935-1936 ders yılında kız ortaokulu ile birleştirildi. 1959 yılında bünyesinde bir Akşam Lisesi açıldı; 1982’de Akşam Lisesi kapatıldı. 1994-1995 öğretim yılında bünyesinde “Yabancı Dil Ağırlıklı” bölüm açıldı. 2005-2006 yılında "Anadolu Lisesi" haline geldi.
Kayseri Büyükşehir Belediyesi ve İl Milli Eğitim Müdürlüğü arasında yapılan protokol neticesinde 02.05.2016 tarihinden itibaren Milli Mücadele Müzesi olarak halkımızın ziyaretine açılmıştır.
