虽然火炮出现的时间很早，然而穿甲弹这一弹种的出现却是在数百年之后。19世纪蒸汽铁甲舰取代了风帆战舰，原本的实心铁弹再也不能砸开那一层厚厚的乌龟壳。一些聪明人想到了增加炮弹初速，另外，炮弹的形状也需要改变，柱状尖头的炮弹外形一直延续至今。这种炮弹在撞击目标时产生的压强更大，这样穿透铁甲就更加的容易，最早的穿甲弹就这样出现了。
1916年8月，索姆河畔第一次出现了坦克的轰鸣，这场源自海洋的矛与盾之争也延续到了陆地之上。1936年的西班牙内战中极大的促进了坦克技术的进步，各种新式坦克纷纷出现。穿甲弹以此为契机也得到了极大的发展。
这一时期穿甲弹的技术进步主要体现在两个方面：第一是加长火炮的身管借此提高穿甲弹的初速。第二是提高穿甲弹的质量，在当时的技术条件以及物质基础下，提高穿甲弹的质量就意味着不可避免的要增大火炮的口径，到二战结束反坦克炮的口径比战前提高了几倍。
然而普通的尖头穿甲弹在面对采用倾斜装甲的T34等坦克时，很容易发生跳弹以及未击穿的情况。为了对付倾斜装甲，新的超速穿甲弹以及次口径穿甲弹应运而生。通俗的讲，这两种穿甲弹的结构都可以称为肉包铁，外面是由软金属制成的弹体，用来穿甲的弹芯则由钨、钢等较硬的金属制成。这两种穿甲弹在撞击到坦克装甲时，弹体会发生形变，由于惯性的作用，弹芯会以一个较高的速度与装甲板发生撞击。由于弹芯的截面积较小且密度较大，对装甲施加的压力也会更大，穿甲威力也提高了不少。
鱼与熊掌不可兼得，超速穿甲弹以及次口径穿甲弹由于弹形及气动等原因，穿甲威力在远距离上有很大的衰减。另一个缺陷就是弹芯细而尖，在入射角较小的时候，仍然会发生跳弹。二战结束之后，随着火控技术以及火炮性能的提高，坦克交战距离已经达到了1000米以上，然而传统的穿甲弹在1000米以外的威力都差强人意，武器设计师们开始着手研制新的穿甲弹。
脱壳穿甲弹可以看做是超速/次口径穿甲弹的深度改进版，脱壳穿甲弹在飞行过程中包裹在外面的弹体会被抛掉，原本浪费在弹体上的动能都得以利用。然而由于这一时期的坦克炮都是线膛炮，炮弹在飞行过程中需要利用旋转来保持飞行的稳定。当弹芯的长径比超过一定比值时，自身的旋转反而会使得飞行稳定性恶化，从而导致精度以及存速能力急剧下降，脱壳穿甲弹威力因此受到了限制。
60年代，苏联人率先在T62坦克上装备了滑膛炮，并且研制出了尾翼稳定脱壳穿甲弹。尾翼稳定脱壳穿甲弹由于采用滑膛炮发射因而弹芯长度不受限制，可以极大地提高穿甲威力，为了保持飞行稳定性又在尾部加装了铝合金等轻金属制成的尾翼。这种穿甲弹自从出现之后就迅速占领了各国坦克的弹药舱，自身的技术水平也在不断提高。
如今中国的穿甲弹主要有两个口径，一是105mm。80年代中国获得了105mmL7线膛炮以及尾翼稳定脱壳穿甲弹，并以此为基础开发了国产105mm坦克炮，装备到了各种59改上，据传前不久曝光的国产新型轻坦就装备了一门大幅改进的105mm坦克炮，采取了电渣重熔，身管自紧等先进技术，堪称世界最强105炮，配用的新型尾翼稳定脱壳穿甲弹足以应对印度的T90S坦克。二是125mm，中国目前装备的125毫米滑膛炮主要包括2种型号：身管长度48倍口径的装备在96式坦克上，身管长度50倍口径的装备在99式坦克上。