A klubot 1923-ban alapították és regionális bajnokságokban szerepelt egészen a spanyol polgárháborúig. A háború után különböző területi bajnokságokban játszott a klub és a harmadik vonalból 1970/71-es idényben sikerült feljutni a második ligába, ahol két egymást követő évet töltött el a gárda, ezután viszont ismét visszaesett a harmadik vonalba. Miután a 80-as években játszottak néhány évet a Segunda División B-ben, sikerült megszilárdítani helyüket a Segunda Divisiónban, ami az 1992/93-as idénnyel kezdődött.
1998. május 24. a dátum, amikor a Villarreal feljutott az élvonalba és a klub vezetői nagy örömmel emlékeznek erre a napra. Az 1998/99-es idény volt az első évük a legjobbak között és mindjárt az egyik spanyol óriásnak számító Real Madriddal találták szembe magukat a Santiago Bernabéu stadionban a Primera División nyitó fordulójában. A nehéz szezon után ismét visszaestek a másodosztályba és az 1999/2000-es idényben a 3. helyet szerezték meg, melynek köszönhetően ismét feljutottak és azóta megszilárdították helyüket az élvonalban. A 2006/07-es bajnokságot nagyon rosszul kezdték, de képesek voltak rá, hogy 8 megnyert meccs után helyet szerezzenek maguknak az UEFA-kupa küzdelmeiben. A 30. forduló után mindössze csak a 13. helyen álltak, de sikerült felküzdeniük magukat az 5. helyre a szezon végére. A Barcelona gyengélkedésének köszönhetően a 2007-08-as szezonban a klub legjobb helyezését elérve a 2. helyen zárt, majd egy évvel később az 5. pozíciót sikerült megszerezni, amivel indulhatott az Európa-ligában. A 2008-09-es szezon ötödik helye után a következő szezonban a hetedik helyet érte el a csapat, így nem indulhatott európai kupasorozatban, ami világszerte meglepetést keltett. Ebben az évben az Európa-ligában javítottak, ott elődöntőig jutottak. A 2010-11-es szezon végére a negyedik helyen zártak, így a Bajnokok Ligája rájátszásában játszhattak. A csapat nem tudta felvenni a versenyt azonban a legjobbakkal, a Real Madrid és a Barcelona is legyőzte őket, így némi elégedetlenség lépett fel a szurkolótáborban. Ezek után jött a csapat "fekete szezonja", a 2011-12-es szezonban szörnyű teljesítményt nyújtva, az utolsó előtti fordulóban a 16. helyen álltak, így 1 fordulóval a vége előtt még esélyük volt a kiesésre, de a jelöltek közül a legkevesebb. Az Atlético a 89. percben szerzett góljával 1-0-ra legyőzte a Sárgákat, a másik mérkőzésen pedig a 91. percben Tamudo szerzett (les)gólt a Rayo Vallecanónak, így a Sárga Tengeralattjáró egész Európa meglepetésére a Bajnokok Ligájából a másodosztályba süllyedt, egy év alatt, de talán még ennél is nagyobb meglepetésre a következő szezonban visszajutva a 6. helyet érte el, és visszakerült a nemzetközi porondra.
Becenevük El Submarino Amarillo, ami jelenti, hogy A sárga tengeralattjáró. Ezt az elnevezést a sárga mezükről kapták. A kabalafigura Groguet egy kicsi sárga figura tengeralattjáró fejjel. A 21. század eleje óta a sárga-kék mezt felváltotta a teljesen sárga, és mivel szinte ezzel egy időpontban a spanyol élvonalból eltűntek a sárga mezes csapatok (a Villarrealt kivéve), ha valaki azt mondta, "a Sárgák", mindenki pontosan tudta, melyik csapatról beszél az illető.
A csapat még soha semmilyen mérvadó trófeát nem tudott elhódítani, és érdekesség: a spanyol első osztály tabellájának élén sem álltak még forduló végén.
Luis García Plaza
