到了公元前100左右，罗马对外一系列战争使其成为一个强盛的国家，但实际上此时已经开始走下坡路，罗马军团早已丧失初期那支百战百胜的军队的威名，素质下降兵源不足，对外战争屡战屡败，这时候马略又对罗马军团进行了改革。
为了加强兵源，罗马从征兵制走向了募兵制，士兵真正成了职业兵，军团也进行了大规模的改革，在旧的三列阵列基础上又发展出一种新的三列阵列，最主要的是不再按照士兵的经验能力来布置阵线，因为这个时候士兵都能得到良好的训练，每个人都基本差不多。
这就是棋盘式的阵列布置，实际上，我们常听说的罗马军团是指这个时期，这和这之后的恺撒等等一系列著名人物有关，因为大家都对那段历史感兴趣，所以提起罗马军团，也是指这个时期。
新的三列棋盘布置，第一线配置了4个联队，二、三线三个联队，每个联队600人；每个联队中的连队并立着，每个连队是200人；每条线右翼是后备兵、中间是主力、左边是枪兵，一个军团的人数大约是6800人，传统的第三线后备兵被取消了，武器装备也得到了统一，标枪和重剑成了制式装备，而长矛则基本从罗马军团中消失了。但其对轻步兵和骑兵的运用，还是没有什么重大的变化。
但是这些只是对于罗马军团的屡次变革的一个总结而已，废除了老式的指骨组织，长矛完全的从军中消失，军团里的兵种组合也更有更大灵活性，可以看到每支联队里含有各种类型的兵种，战线也不完全是规定三条，而是可以根据实际情况进行编组。军团有10个联队组成，每个联队600人，每个联队3个支队，每个支队200人，分为两个百人队，其指挥系统也有发展，每个部队都有一名指挥官，而下级指挥官将完全服从于上级指挥，这种形式与现代军队有很大相似之处。
罗马人的这次改革使得罗马军团的协调能力达到了一个高度，细分的编制和体制，加上使用军旗来分别队伍和发出信号，大大的加强了其庞大的军团间的协同作战能力，更利于指挥。而建立的这种隶属上下级的关系，还能使得各单位在战场上能充分的发挥主观能动性，再加上一贯的严明的纪律和良好的训练，使得罗马军团成为一支真正意义上的最先进的军队，打个比方，其布于侧翼的步兵支队，其任务可能就是对攻击侧翼的敌人进行防御，不必等到将军下达命令，支队的指挥官就能自觉的改变队型，进行防御——这样，罗马的指挥官们对侧翼的顾虑大大的减小。
所以不要对西方军事学家对罗马军团的偏袒的称攒耿耿于怀，其实并不是罗马军团的战斗力如何，而是其编制的军团的理论对后世的影响，的确，罗马军团最终的组成方式带给后世军队非常多的启发和借鉴，这点与我国的孙子提出的不战而屈人之兵成为现代战争的最高境界的道理一样。马略提出的这种联队制的军团结构，仔细看，就发现其实与近代的师级编制是非常相象的。
但是罗马人不重视其他兵种的发展，过于依靠自己的步兵战术，使得这支当时编制最先进和最合理的军队却在安息遭到了惨败。
之后，鼎鼎大名的恺撒成了罗马的执政官，这个时期罗马经历了不少次战争，比如征服高卢的战争，期间罗马军队的骑兵只能用表现糟糕来形容，这也难怪，罗马人对其优秀的步兵太过于自负，天才恺撒也证明了自己的能力，骑马的高卢人在重步兵面前一败涂地。
罗马人几乎坚信他们的步兵会击败一切敌人，尽管与迦太基的战争让罗马人接受了马其顿的合成军队的理念，但仍没有把骑兵和轻步兵提升到一个重要的位置，西庇阿的对战术的改进似乎也没给罗马带来什么，因为自亚历山大之后，衰落马其顿帝国根本就不是罗马的对手，罗马的步兵在地中海确定了自己的无敌的地位，罗马人更多的依赖盟友提供骑兵，而自己却根本没有发展这一兵种，但盟友的骑兵往往并不可靠，这也为日后罗马军团的衰落埋下了隐患。其实罗马的成功更多依靠了其战略的成功而非其军队的强大，一旦没有这种出色领导者，这支其实看似出色的军队根本不是强大的敌人的对手。