Si l’infanterie romaine, remarquablement organisée, permit à Rome de conquérir un immense empire autour de la Méditerranée, les légions furent impuissantes à endiguer, aux IVᵉ et Vᵉ siècles, les hordes de barbares qui déferlèrent alors sur toutes les provinces de l’empire.
Ces peuples germaniques montaient souvent à cheval et quelques peuplades asiatiques (notamment les Huns) étaient de remarquables cavaliers. Les premiers temps du Moyen Âge virent la prépondérance de la cavalerie s’affirmer encore davantage.
Principale arme au Moyen Âge, la cavalerie est constituée des seigneurs, assez riches pour pouvoir payer un armement complet, ainsi qu’une monture et tout ce qui va avec (des serviteurs, des chevaux de rechange, de la nourriture en quantité, etc.). Chaque souverain convoquait, pour un temps de guerre déterminé à l’avance, ses vassaux qui devaient se présenter en armes, avec tout l’équipement. Une fois la campagne terminée, chacun rentrait chez soi.
Ces armées temporaires furent longtemps le seul moyen de guerroyer. Au XIIᵉ siècle, apparurent, presque en même temps, des mercenaires permanents et des moines-soldats (ordres monastiques, généralement constitués en Orient pour défendre les pays conquis lors des Croisades).
L’équipement d’un chevalier était lourd (constitué essentiellement de pièces métalliques) et fort onéreux. Chacun, selon ses moyens, s’équipait à ses frais ; par conséquent, dans les rangs de l’armée, l’armement était disparate, quelques armurés étant plus fiables que d’autres.
Lors des grandes batailles, les armées se ruaient l’une sur l’autre. On comptait sur la puissance de la charge de nombreux chevaux au galop montés par des hommes lourdement armés pour enfoncer les lignes adverses. Ce type de combat fut en vigueur pendant des siècles.
Cependant, la cavalerie commença à décliner devant les fantassins des milices bourgeoises (après Bouvines, 1214) ou les archers anglais (lors des grandes batailles de la Guerre de Cent Ans, Crécy 1346, Poitiers 1356, Azincourt 1415). Ce déclin fut encore accentué avec le développement de l’artillerie, à la fin des conflits anglo-français.