Budowla w Kordobie sięga swymi początkami połowy VI wieku, gdy powstała tam wizygocka bazylika św. Wincentego. Po najeździe Arabów na ziemie dzisiejszej Hiszpanii i Portugalii w VIII wieku zdobywcy pod wodzą Abderrahmana I w latach 786-88 gruntownie przebudowali świątynię chrześcijańską na meczet, który szybko stał się wizytówką arabskiego panowania na tym obszarze. Następni władcy jeszcze bardziej rozbudowywali to miejsce, a ostatnie powiększenie obiektu nastąpiło za panowania Almanzora pod koniec X wieku.

W pierwszej połowie XII wieku meczet ponownie stał się świątynią katolicką, rekonsekrowaną w 1236 r. Wtedy też ostatecznie potwierdzono prawa Kościoła do tego miejsca. W kolejnych wiekach trwała rozbudowa katedry i dobudowywanie nowych pomieszczeń, m.in. Kaplicy Królewskiej, dużej nawy gotyckiej, transeptu i dziedzińca. W 1882 r. obiekt ogłoszono Narodowym Pomnikiem Historyczno-Artystycznym, który w 1984 r. trafił na Listę Światowego Dziedzictwa UNESCO.

Od lat 90. XX wieku muzułmanie, zarówno indywidualni, jak i rządy niektórych państw wysuwają roszczenia do dawnej świątyni islamskiej, chcąc ją albo odzyskać w całości, albo przynajmniej dzielić wspólnie z chrześcijanami. Kościół stanowczo odrzuca tego rodzaju żądania, przypominając nie tylko swe wielowiekowe prawa do tego zespołu zabytkowego, ale także fakt, że meczet powstał na gruzach świątyni chrześcijańskiej, zniszczonej przez muzułmanów.

Choć od niemal ośmiu stuleci jest katedrą, świątynia nadal nosi po hiszpańsku nazwę La Mezquita - meczet.