Il paese di Gergei ha sicuramente delle origini molto antiche, considerata la presenza nel territorio di insediamenti prenuragici, nuragici, romani e forse anche altomedievali. Diverse domus de janas, circa una trentina di nuraghi, testimonianze di epoca romana e ritrovamenti diversi confermano quelle antiche forme di popolamento disperso nelle fertili campagne gergeesi. L’attuale centro urbano – quello che si è sviluppato attorno ai vicinati storici della chiesa di Santa Maria (che pare sia stata la prima parrocchia del paese) e quello di San Vito, la parrocchia attuale – è, però, la risultante dello spopolamento dell’habitat disperso. Il toponimo Gergei compare per la prima volta nei rarissimi documenti di epoca giudicale (secoli X e XI), periodo in cui, essendo la Sardegna divisa in quattro giudicati o regni, Gergei appartenne al giudicato di Cagliari e alla Curatoria di Siurgus. Per mancanza di documenti si ignora l’avvicendarsi dei fatti storici del paese in epoca giudicale. Con la fine istituzionale del giudicato di Cagliari, avvenuta nel 1258, Gergei seguì le sorti dell’antica Curatoria di Siurgus, che fu conglobata nel Terzo Centrale del cagliaritano, affidato a Guglielmo Capraia, sovrano del Giudicato di Arborea. Nel 1295, quando Mariano IV de Bas Serra, successore di Capraia, si alleò col comune di Pisa, al quale lasciò in testamento quel possedimento, anche Gergei passò al dominio Pisano. Pisa detenne i territori del Terzo Centrale, Gergei compreso, fino al 1324, anno in cui avvenne la conquista del Regno di Sardegna da parte degli Aragonesi. Fu così che anche Gergei visse un nuovo corso storico, quello del secolare regime feudale, abolito nel 1836. Nel 1355 – quando re Pietro IV d’Aragona convocò a Cagliari il primo Parlamento sardo – Gergei partecipò alle sedute del Parlamento stesso. Durante la conquista spagnola – dal 1479 al 1715, anno in cui l’isola passò, per pochi anni, al dominio austriaco – anche Gergei spagnolizzò i suoi costumi e le sue tradizioni. Nel 1718 avvenne la cessione della Sardegna ai Savoia. Cambiavano i dominatori, ma per i sardi cambiava ben poco. Di quei tempi è noto l’orrido carcere di Gergei, dove nel 1793 furono rinchiusi sei prigionieri di guerra francesi. Il carcere, che si trovava vicino alla chiesa di San Carlo, meglio nota come Sant’Impera, fu demolito nel 1892.
Dal 1604 fino al 1843, Gergei fece parte del Ducato di Mandas. Dal 1821 al 1858 Gergei appartenne alla Provincia di Isili, nello stesso anno fu compreso nella provincia di Cagliari e ne fece parte fino al 1927, anno in cui fu istituita la provincia di Nuoro, nella quale Gergei fu compresa. Gergei è sempre stato un notevole centro agricolo. Gergei, anche in passato, è sempre stata rinomata non solo per il suo ottimo olio ma anche per il suo pane e i suoi dolci. Oggi i dolci gergeesi hanno conquistato un discreto mercato sia in Sardegna che fuori. Gergei, florido centro agricolo, è sempre stato un paese molto popolato, se lo si confronta con quelli che sono i centri dell’attuale Sarcidano.