In het begin van de Romeinse Republiek (510-31 vóór Christus) bestond het leger uit een soort burgerwacht. Dit was een groep soldaten te voet die allerlei wapens bezat. Van boeren die onroerend goed bezaten werd verwacht dat ze ter verdediging van de staat, zich als vrijwilliger voor het leger aanmeldden. Ze moesten wel zelf hun uitrusting betalen en aan het eind van een veldslag kregen ze een stuk grond en een beetje geld. Dit vergoedde nauwelijks de kosten die de boeren zelf hadden gemaakt om de uitrusting aan te schaffen. Als de crisis voorbij was, werd het leger weer ontbonden.
Ook maakten de Romeinen vaak gebruik van hun bondgenoten om militaire nederlagen te voorkomen. De macht van het leger groeide dus in de loop der jaren. Omdat er steeds meer grondgebied werd veroverd en naburige volken overwonnen werden, moest men het leger opnieuw organiseren. De rijken werden voortaan ingedeeld bij de cavalerie, de middenklasse bij de infanterie en de armsten bij de vloot.
In 275 vóór Christus bereikte het Romeinse leger zijn eerste hoogtepunt door Phyrrus van Epirus uit Griekenland te verslaan en ook de eerste Punische oorlog werd na enkele grote nederlagen toch gewonnen. Toen het Romeinse Rijk steeds groter werd en de militaire veldslagen steeds verder van huis plaatsvonden en langer duurden, werden de mensen ontevreden over het burgerleger. Daarom voerde de Romeinse veldheer en consul Gaius Marius rond 100 vóór Christus grote veranderingen in het leger door. Het leger werd nu ook voor burgers zonder onroerend goed opengesteld, waardoor ook armen die carrière wilden maken in het leger ook in dienst konden treden. Het vrijwilligersleger maakte plaats voor een leger met professionele soldaten die tussen de 16 en 20 jaar het leger dienden. Ook werd het salaris verhoogd, waardoor soldaten een uitrusting en wapens konden betalen die voldeden aan alle eisen. Het leger werd veel beter getraind dan vroeger (bijvoorbeeld paardrijden, oefenen met houten wapens en marcheren), maar het leger had nu ook nadelen. Julius Caesar (± 100 vóór C. – 44 vóór C. ) gebruikte het leger als persoonlijk politiek machtsmiddel. Toen de eerste keizer van het Romeinse Rijk, Augustus (63 vóór C. – 14 na C.), aan de macht kwam begon hij de grenzen van het Rijk wat duidelijker af te bakenen. Vóór het keizerschap van Augustus was het Rijk namelijk een hecht rijk. Tijdens het Keizerrijk (31 vóór C. – 192 na C.) had Augustus 60 legioenen, maar hij bracht dit terug naar 28 en stelde een permanente vloot van 700 schepen samen.
Door deze inkrimping werd het leger ook meer ingezet voor vredestijd, dat voornamelijk met het bewaken van grenzen belast was. Omdat Augustus ervoor zorgde dat binnen de grenzen van het rijk sprake was van vrede, werd de vrede naar hem vernoemd: Pax Augusta of ook wel Pax Romana genoemd. Aan de noordgrens (aan de oevers van de Rijn en de Donau) werden veel forten gebouwd, waardoor het leger genoeg druk op de barbaren buiten het rijk kon uitoefenen. Zo ontstond een staand leger (een leger dat zich permanent op een strategische plaats heeft gevestigd).
Naarmate het Romeinse Rijk groeide, groeide ook het aantal nationaliteiten in het leger. Er werden ook hulptroepen opgericht die bestonden uit niet-burgers, waarmee de legioenen werden ondersteund. Eerst bleven deze troepen in hun eigen gebied, maar onder Augustus werden ze over het hele rijk verspreid en mochten ze niet meer in hun geboorteplaats dienen. Dit was om opstanden te voorkomen.
Door verschillende conflicten in de 3e en 4e eeuw na Christus werd het onmogelijk om een staand leger te laten bestaan. In plaats van de grenzen van het Romeinse Rijk door legioenen te laten bewaken, kwam er een mobiel leger. Alleen in steden waren nog legionairs gelegerd.