Kars isminin etimolojik kökeni ve şehrin tarihsel gelişimi üzerine yapılan değerlendirmeler, bölgenin kadim bir askeri ve ticari kavşak noktası olduğunu ortaya koymaktadır. Filolojik açıdan Kars sözcüğü; Kaşgarlı Mahmud'un Divanü Lûgat-it-Türk'te belirttiği yün elbise veya kürkünden yararlanan "karsak" hayvanı, bölgeye yerleşen Bulgar Türklerinin Karsak boyu veya Gürcüce "kapı" anlamına gelen "Kari" kelimesiyle ilişkilendirilmekte, Osmanlı kaynaklarında ise hanedan merkezi anlamında "Dudıman" veya "Takht" isimleriyle anılmaktadır.
Tarihsel süreçte Paleolitik dönemden itibaren yerleşim izleri barındıran şehir, Urartu hâkimiyetiyle birlikte Kars Kalesi'nin inşası üzerinden stratejik bir savunma kimliği kazanmış; İskit, Selefkos ve Sasani gibi güçlerin ardından 6. yüzyılın sonunda Bizans ile Sasani arasındaki diplomatik pazarlıklara konu olmuştur. 7. yüzyılda İslam ordularının Kafkasya ilerleyişiyle birlikte bölge halkının sulh yoluyla Müslüman hakimiyetini tanıdığı, 8. yüzyılda Kral Muşek ve 10. yüzyılda II. Abbas dönemlerinde kalenin stratejik onarımlar gördüğü ve bu süreçte 937 yılında tamamlanan anıtsal katedralin (Kümbet Camii) şehrin mimari zenginliğine eklendiği anlaşılmaktadır.
Bazı kaynaklar kalenin 12. yüzyılda Saltuklular tarafından yapılmış olduğunu belirtse de daha eski bir dönemde inşa edildiği tahmin edilmektedir. 1579 yılında Lala Mustafa Paşa tarafından onarımı yapılırken, dört köşe mermer kitabe bulunmuş dış surların kapısına koydurulmuştur. Bu kitabeye göre 1152 yılında Sultan Melik İzzetin'in emri ile Veziri Firuz Akay tarafından yaptırılmıştır. Kaleyi 1386 yılında da Timur yerle bir etmiş, 1579 yılında tekrar III. Murat'ın emriyle Lala Mustafa Paşa yeniden yaptırmıştır. Bundan sonra 1616 ve 1636 yıllarında iki kere onarımdan geçmiş, şehir merkezine bazı eserler eklenmiştir.
Kaynaklara göre Merkez Kale dışında dış surlar 27.000 metre uzunluğunda olup, 220 burçtan meydana gelmiştir. Dış surlar üzerinde önemli üç kapı bulunmaktadır: batıda Sukapısı (Çeribaşı Kapısı), Kağızman Kapısı (Ortakapı) ve Behram Kapısı (Bayrampaşa Kapısı).
