Gorkšs savu futbolista karjeru sāka FK “Auda” sastāvā, pēc tam 2002. gadā pārcēlās uz Zviedriju, kur spēlēja vairākos klubos. 2006. gadā futbolists atgriezās Latvijā un vienu sezonu aizvadīja FK “Ventspils” sastāvā.
2007. gadā Gorkšs pievienojās “Blackpool”, bet vēlāk pārstāvēja arī tādas komandas kā “Queens Park Rangers”, “Reading”, Kolčestras “United” un Grieķijas FK Ergotelis. Iepriekšējo sezonu Kaspars noslēdza Prāgas “Dukla”.
FK “Liepāja” aizvadītajā sezonā kļuva par Latvijas čempionvienību, bet šobrīd “SinotTip” Virslīgā ar 23 punktiem 12 spēlēs ierindojas tabulas trešajā vietā. Un nākamnedēļ gaidāma UEFA Čempionu līgas kvalifikācijas turnīra otrās kārtas posmā spēle, kur pretim stāsies Austrijas “Salzburg”.
