Yaklaşık 2000 metre yükseklikte bir tepe üzerinde inşa edilmiş olan iç kale 5. yüzyılda Roma İmparatoru Theodosius tarafından yaptırılmıştır.
Son zamanlara kadar Türkler tarafından kışla olarak kullanılmıştır. Kale Mescidi ve saat kulesi Türk mimarlığının ilk örnekleri olmaları bakımından önem taşırlar. Tepsi Minare olarak da adlandırılan kule Ortaçağ‘larda gözetleme kulesi olarak kullanılmıştır.
Osmanlı mimarisinin Barok Çağında saat kulesine çevrilmiştir. 1124-1132 yılları arasında hüküm süren Abu’l Muzafferüddin Gazi tarafından yaptırılmıştır. Tek büyük bir kubbe ile örtülen mescid geleneksel Türk mimarisinin özelliklerini taşır.
Şehir Kapıları
Kale, sur duvarları üzerindeki kapılardan dışa açılmaktaydı. Bu kapılardan en önemlisi olan Tebriz Kapı, iç kalenin güneydoğu köşesinden güneydeki Çifte Minareli Medrese’ye uzanan sur duvarları üzerinde yer almaktadır.
1828 ve 1854 yıllarında şehri ele geçiren Ruslar, kaleye büyük zarar vermişlerdir. Bu savaşlardan sonra tam bir serhat şehri olan Erzurum’da yeni askeri tesisler yapılıp, yıkılan yerler onarılırken, 18. yüzyıldan beri büyüyen şehir, varoşları da içine alacak şekilde; doğudan, kuzeyden ve güneyden savunmasına özel önem verilmiştir.
Yeni sur duvarları ile çevrilen Erzurum’un genişletilen surları üzerinde; Harput Kapı, İstanbul Kapı, Kavak Kapı ve Kars Kapısı açılmıştır. İç kalenin bugünkü girişi ise ikinci bir kapıdan sağlanmaktadır.
Saat Kulesi
Saat Kulesi, bugün ayakta bulunan iç kalenin batı duvarının şimal köşesi bitişiğindedir. 16. yüzyılın başlarında minarenin üst kısmı yıkılmış, ilk olarak 1848 yılında, daha sonra 1881 yılında saat yerleştirilerek “Saat Kulesi” ve aynı zamanda gözetleme kulesi olarak kullanılmaya başlanmıştır. Düz, tuğla örgülü ve aşağıdan yukarıya doğru hafifçe daralan gövdede, altı süs kuşağı dikkat çekmektedir.
