中国人民解放军铁道兵部队诞生于1946年的东北战场。当时，东北民主联军根据战争形势的发展，为维护铁路交通秩序，保证铁路畅通无阻，集中各地的武装护路部队，并吸收地方铁路员工参加，建立了第一支铁道部队，称护路军。后来，随着战区铁路抢修的需要，东北军区又在护路军的基础上组建了东北人民解放军铁道纵队，后扩编为中国人民解放军铁道兵团。
铁道纵队的组成1945年8月，日本帝国主义侵华军队，在中国抗日武装力量和苏联红军的沉重打击下，宣布无条件投降，抗日战争胜利结束。此后，东北民主联军在建立与扩大东北解放区时，即开始接收日伪铁路管理机构，并组织和发动广大职工群众积极恢复与建立铁路系统的正常秩序。为适应东北地区形势发展的需要，确保铁路运输安全，支援前线作战和后方恢复生产，东北民主联军在加强铁路系统建设的同时，还先后在东满、西满、南满地区及中长等铁路线上组织了武装护路部队，执行保护铁路运输安全和协助接管铁路等任务。
1946年6月，正式成立了东北民主联军铁道司令部,12月改称护路军司令部)，任命苏进为司令员，王光文、张鹤鸣为副司令员。护路军总部设在哈尔滨。为便于部队的统一组织指挥，护路军总部决定将何德全领导的东满护路大队，郭维城领导的西满护路保安队以及由彭敏、阎九祥、刘世忠在绥佳、绥滨、中长等铁路线上建立的铁路公安护路队，整编成7个步兵团和1个装甲大队，隶属护路军总部。从此，东北地区护路部队由分散走向统一，担负着东北地区约5000公里铁路的护路任务。
