相传在元代，在济宁驻扎辅佐漕运的兵士达1.2万人

清朝时，河道总督衙门是运河、黄河的最高行政管理机构，同时，又拥有或掌管着自己的军队，并主要依据军队来实现其总督职能，因此说，河道总整衙门是一个军政合一的机构。

据考证，自清顺治元年至光绪二十八年间，朝廷钦命河道总督119任，共有101人充任，其中正一品大员近半。其间除移驻清江浦27年外，其余年份均驻节济宁。

元代济宁设兵马司驻扎辅漕兵士1.2万人。明代设司运军事机构总部为总理河道军门署，下辖道和卫，济宁驻有兵备道和两个卫，驻有卫兵1.2万人。清代济宁设河标中军副将署，为河道总督直隶机构。(署衙址在济宁州城东门里路北)。下辖河标营和卫，济宁驻4个河标营,每营定置1000兵，这些河标营衙门分别设在济宁州城东门大街与北门大街。

1855年，黄河在铜瓦厢决口，黄河改道，山东运河南北断航。光绪二十八年(1902年)正月，光绪帝下诏裁撤东河总督。九月二十一日，慈禧太后复设东河总督。到1908年，漕运管理机构、军事机构和大小官员全部裁撤。直至解放前夕，运河没有重新设立正式的管理机构。