不久，遵照中央軍委命令，山東野戰(zhàn)軍和華中野戰(zhàn)軍組建為解放軍華東野戰(zhàn)軍。華野前委遵照黨中央關(guān)于“今后軍事建設(shè)方面的中心任務(wù)，是用一切努力加強(qiáng)炮兵和工兵的建設(shè)”的指示精神，于1947年3月18日正式建立了華野特種兵縱隊(duì)，由陳銳霆任縱隊(duì)司令員。華野特縱創(chuàng)建時(shí)轄炮兵、騎兵、工兵、戰(zhàn)車等兵種從戰(zhàn)場上繳獲的火炮和坦克被劃歸使用，華東軍區(qū)和野戰(zhàn)軍抽調(diào)了技術(shù)干部，又從各步兵縱隊(duì)抽調(diào)了300多名有戰(zhàn)斗經(jīng)驗(yàn)的步兵班長分配到美式榴炮團(tuán)當(dāng)炮手，增強(qiáng)了特縱的骨干力量。在各兄弟部隊(duì)大力支持下，華野特縱邊組建、邊訓(xùn)練、邊作戰(zhàn)，迅速發(fā)展壯大，在戰(zhàn)斗中屢立功勛。1948年8月，陳銳霆在西柏坡受到毛澤東、周恩來的親切接見。在隨后的濟(jì)南戰(zhàn)役中，陳銳霆指揮500余門火炮參加戰(zhàn)役，配合主攻部隊(duì)攻城，發(fā)揮了巨大的作用，開創(chuàng)了我軍“利用強(qiáng)大炮火輔以爆破、奪取敵堅(jiān)固設(shè)防和重兵據(jù)守的大城市”的先例。

到淮海戰(zhàn)役發(fā)起前，華野特種兵縱隊(duì)已擁有4個(gè)炮兵團(tuán)(共有美式一跂五毫米榴彈炮36門，日式一跂五毫米榴彈炮和野炮53門)、1個(gè)工兵團(tuán)、1個(gè)騎兵團(tuán)、1個(gè)坦克大隊(duì)和1所特科學(xué)校，以及包括警衛(wèi)營在內(nèi)的直屬機(jī)關(guān)、分隊(duì)，部隊(duì)的軍政素質(zhì)和戰(zhàn)斗力也得到了極大的提高。

淮海戰(zhàn)役打響后，華野特縱參與了全部三個(gè)階段的戰(zhàn)斗，為掃清障礙，摧毀敵人據(jù)點(diǎn)、火力發(fā)揮了重要的作用。

在第一階段的碾莊圍殲戰(zhàn)中，華野特縱炮團(tuán)配合攻擊部隊(duì)摧毀敵堡壘工事，為攻擊部隊(duì)消除了一個(gè)又一個(gè)火力點(diǎn)，大大減少了攻擊部隊(duì)的傷亡。坦克大隊(duì)的20多輛坦克，也配合攻擊部隊(duì)從西面攻擊敵據(jù)點(diǎn)和火力高度集中的地堡群及交通壕掩體，掩護(hù)步兵沖擊，起到了震懾?cái)橙?、開辟通道的作用。1948年11月16日，陳銳霆將九二步兵炮以上火炮全部集中使用，以步兵炮、迫擊炮和部分山炮進(jìn)行抵近射擊，由步兵突擊團(tuán)直接指揮，為攻克碾莊立下了汗馬功勞。

在第二階段殲滅黃維兵團(tuán)的戰(zhàn)斗中，由于解放軍中原野戰(zhàn)軍在進(jìn)出大別山時(shí)丟掉了重武器，所以火力不足，總前委要求華野特縱派炮兵支援。陳毅還專門打來電話，要求華野特縱把主要的炮兵部隊(duì)支援中野部隊(duì)作戰(zhàn)。陳銳霆得到命令后當(dāng)即帶一個(gè)騎兵班，冒著敵軍飛機(jī)的轟炸、掃射，迅速從駐地趕到幾十公里外的中野指揮部，向總前委首長領(lǐng)受任務(wù)。隨后，他親自率領(lǐng)特縱第三炮兵團(tuán)的6個(gè)炮兵連配屬中原野戰(zhàn)軍，打擊國民黨軍黃維兵團(tuán)的炮兵陣地。12月5日，炮兵協(xié)同步兵，連續(xù)攻克了雙堆集外圍多個(gè)據(jù)點(diǎn)。14日上午，中原野戰(zhàn)軍、華東野戰(zhàn)軍直逼黃維司令部。第三炮兵團(tuán)集中了100多門各式火炮一起向著敵核心工事猛烈開火，確保了突擊部隊(duì)沿著炮火開辟的道路直插敵人的核心陣地，有力地保證了殲滅黃維兵團(tuán)作戰(zhàn)的順利進(jìn)行。

淮海戰(zhàn)役進(jìn)入第三階段后，華野特縱炮兵分別配屬華東野戰(zhàn)軍各縱隊(duì)和冀魯豫軍區(qū)部隊(duì)作戰(zhàn)。陳銳霆組織炮兵在東西不到10公里、南北不到5公里的包圍圈外，對敵人組成了強(qiáng)大的炮兵火力網(wǎng)。12月29日17時(shí)，特縱炮兵突然對敵人發(fā)起炮擊，斃傷敵3000多人。1949年1月6日，解放軍向負(fù)隅頑抗的杜聿明集團(tuán)殘部發(fā)起總攻擊。15時(shí)30分，特縱炮兵向敵軍陣地猛烈開火，摧毀敵人前沿地面工事和制高點(diǎn)火力層，支援步兵縱深突擊。至1月10日上午10時(shí)，解放軍已攻克陳官莊周圍90多個(gè)據(jù)點(diǎn)及大量地堡。到下午2時(shí)30分，炮兵再次以猛烈的炮火轟擊殘敵，解放軍各部繼之發(fā)起攻擊，全殲守?cái)?。淮海?zhàn)役勝利結(jié)束后，華野特種兵縱隊(duì)編為第三野戰(zhàn)軍特種兵縱隊(duì)。