同登攻克后，我军向省会谅山市推进。谅山是越北交通中心，离河内只有一百公里左右，而且铁路和一号公路都可以抵达。
一号公路宽阔结实，有利于机械化行军，同时，过了谅山往南就是红河三角洲的平原地带，河内无险可守，西方观察家认为，谅山如果失守，河内陷落，越南全国将面临一场新的游击战。
越军在谅山早已修筑了大量钢筋混凝土永久性工事，明堡暗堡连环堡纵横交错，守军为越军第三师，第327师，外加边防军和两个公安团，在禄平，横模也配置了几个独立团，谅山到禄平一线，越军投入了坦克部队（它们国内油料不足，我军出兵前就有这方面情报）还有特种部队。谅山西北方，越军布重兵防守，以166炮兵团为骨架，设下扣马山重炮阵地。
2月27日，我军兵分四路，攻击谅山，横模，禄平，扣马山，当天就摧毁了扣马山炮兵阵地。28日，我军攻占位于谅山左翼的禄平县（市）城和附近高地。但谅山附近山头高地仍在越军手中。
29日，我军攻入谅山北区，几乎全歼327师中的42团，越军增援部队赶到后，我军陷入了拉锯战。越军优势在于山头炮火，双方战事胶着。直到3月4日，我军另一支部队多路强行攻过奇穷河，占领谅山南区，并拿下四个高地，局面急转直下，5日，我军攻克西南方的413高地，全歼越南守军。
盘踞市区的第三师68团，141团大部份被歼，327师被逃走。越军从河内赶来的308师甚至对我军42军使用了化学武器，这师死了一些人，跑了。
除了这三个主要战区以外，还有广宁省，莱州省，河江省，规模较小，但越南甚至抽回了一部分老挝守军。
谅山攻克后，3月5日正在世界媒体忙着分析照片，比对地形时，中国已宣传撤军，不要越南一寸土地。