1967 yılında kurulan kulüp, bu yıldan itibaren sportif faaliyetlerine başladı. Yeşil-beyazlı kulüp, yaptığı tüzük değişikliği sonrasında Karsspor adını almıştır. 1995-96 sezonunda amatör kümeye düşen kulüp, 2004–2005 futbol sezonunda Türkiye 3. Profesyonel Futbol Ligi´ne yükselerek; yeniden profesyonel lig mücadelesine başlamıştır. 2007-2008 yılında da küme hattından çıkıp şampiyon olan Karsspor kendi liglerinde Avrupada 1. Dünyada 2. kulüp olmuştur

Karsspor, 2007-2008 sezonunda oynadığı 3. Lig'ten, 4 Mayıs 2008 tarihinde oynadığıAksarayspor maçını kendi evinde 2-1 kazanarak 2. Lig'e yükselmiştir. Karsspor'un 15.000-20.000 kapasiteli olması hedeflenen yeni stad yapma çalışmalarına başlamıştır.

2010-2011 sezonunda 3. ligde mücadele edecektir. Tesislerine Karsspor'da büyük emeği geçenAli Gaffar Okkan adına tesislerine Ali Gaffar Okkan adını vermiştir

Karsspor  Keçiörengücünü 2-1 yendi
Karsspor 31 Mart 2012 pazar günü Kars şehir stadında  Keçiörengücü ile yaptığı maçı 2-1 kazandı. Maçın ilk Gölü 15 dakikada  Karsspor'dan geldi ilk yarıda Keçiörengücü beraberliği sağladı . ikinci yarıda Karsspor  bir gol daha atarak 2-1 öne geçti ve maç bu sonuçla bitti.
 Karsspor'a destek vermek amacıyla İstanbul'dan Kafkas Kartalları ve Harbiler 36 Taraftar grubundan  bir grup taraftar Kars'a gitti. Kars'lı işadamı Turan Çelik'in kiraladığı otobüs ile Kars'a giden taftarlar  takımlarını kendi memleketlerinde kendi hemşehrileri ile birlikte destekleme mutluluğunu yaşadılar.
Önümüzdeki hafta Karsspor için kritik bir deplasman maçı var. Düşme hattındaki Orhangazi ile  Deplasmanda karşılaşacak olan Karsspor bu maçı kazanarak hem üst sıralara yükselmeyi, hemde Orhangazi'nin üstünde yer alarak  düşme hattından kurtulmaya çalışacak. İstanbul ve Bursa'daki Karsspor  taraftarları bu maçta Karsspor'a destek vermek için Orhangazi'ye gidecek.