在六七十年代，他曾经遭到“靠边站”多年，也曾被邓、叶首长委以重任，在短短2年时间调任三大军区级单位担任政委，目的就是大力整顿。

　　1975年4月，赋闲多年的王平接到军委电令，宣布到炮兵当政委。叶帅找他谈话：到炮兵授衔要摸准情况，大胆平反冤假错案，落实政策，按照军委意图和部署，把炮兵整顿好。

　　炮兵机关问题复杂，原司令员吴克华、副政委欧阳毅、刘何等三百多人受到冲击。刘何的情况比较严重，中途去世。一些领导长期不敢与他的老伴接触，产生对立情绪。王平到任后，开始没日没夜地接到受访者提交的材料。对刘何的问题，主动做他老伴的思想工作，核查问题，最终为其平反。

　　短短4个月时间，解决二百七十多人的问题，效率非常高，成绩非常大。他在炮兵工作还没有搞完，就接到新任命。离开前，机关许多人恋恋不舍。

　　当他走后，炮兵又掀起一股风，矛头指向他。说他在不经党委讨论作出决定，是个人意见，把之前讲话，下发的文件作废。还发函让武汉军区进行批评，但军区拒绝了。到1977年，炮兵致函武汉军区，承认之前错误的行为，并道歉。

　　在炮兵整顿的工作，展开非常顺利，主持国务院、军队工作的邓、叶首长，对王平的能力是非常认可的。

　　调他去武汉军区，叶帅让他稳定军队是关键，军区下辖3个野战军，两个省军区，以及几个独立师。如果军队稳定，其他情况都是在可控范围内的。

　　当时，有人已经把手伸向军区，某些省军区有些乱了。如果野战军被干扰，后果不堪设想。因为，王平牢记两位首长的指示。为了全心全意把工作做好，原本可以兼任地方职务的他，全身心的精力放在军队工作上。

　　按照他做事的一贯作风，先到军区摸情况，等情况摸清楚再进行处理。最后了解到一个情况，大家都很谨慎，怕办错事，怕说出话。当王平在会上讲话时，有人好像提醒他最后写个稿子读，这样不会被拽小辫子。

　　面对大家明哲保身的思想，只有迈出去才能把工作给带动起来。传达并学习军委扩大会议精神，坚决改组“软、懒、散”，调整“骄、奢、惰”等。经过一番整顿，部队组织纪律观念和战备观念得到加强。

　　此后，解决干部的问题。在武汉军区有下放来的老干部，王平要求相关部门在生活上给予照顾。没有平反的高级干部，作出最后公正的结论等。

　　担任第一政委仅仅1个月，到10月，叶帅到武汉，听取了他和杨得志的工作汇报。叶帅告诉他，准备调任总后勤部工作，感到突然。

　　1975年，在炮兵机关工作4个月，工作没有完成就调走了，到武汉军区局面刚刚打开，再被调走。个人认为继续留下来工作比较好，后勤工作也没有做过，不熟悉情况，恐怕难负重任。叶帅说，总后勤部政委考虑几个人选，比过来比过去，还是你比较合适。

　　之所以调他到后勤部工作，因为总后是一个老大难单位，情况复杂。罗瑞卿说：冤假错案比军内哪个单位都多，不认真清查整顿就不行。

　　当时总后勤部11名常委，有6人被审查，汤平、傅连暲、长和等人受冲击去世。总后勤部175名军职以上干部，有106人被排斥打击。此后的几年中，工作上遇到很大阻力。邓副主席批示：彻查之前的问题，不这样办，不能解决问题。

　　于是，总后勤部展开揭批查，坚持实事求是，重证据，重调查研究等。清查对象715人，处分120人。对过去突击提拔的干部的职务进行调整，上级对总后勤的工作给予很大肯定。

　　在总后勤部的工作，能顺利展开，不仅是领导的支持，也是王平多年工作经验的积累。在短时间内，把领导班子建好，确保干部们没有任何包袱。