1969年1月24日,中共中央批准成立中国人民解放军北京军区内蒙古生产建设兵团。

内蒙古直属机关毛泽东思想大学校总校、分校及原内蒙古（军区）生产建设兵团全部、华北农垦兵团大部一同并入新组建的生产建设兵团。

北京军区从下属各部队抽调现役军人组成各级领导班子，率领数千名复员、转业军人前往内蒙古自治区巴彦淖尔盟、乌兰察布盟和锡林郭勒盟等地接管国营农场，组建生产建设兵团。

兵团规划为6个师的建制，每个师辖10个团，每个团辖10个连队。

1969年5月7日，内蒙古生产建设兵团正式成立，司令部设在呼和浩特市。

当年，兵团组建了4个师，24个团，246个连队，接收北京、天津、上海、呼和浩特、包头等城市上山下乡知识青年5万余人，全兵团在职人员达7万余人。

1970年，又组建了2个师，15个团。

按照原来的规划，一、二、三师设在内蒙古西部的巴彦淖尔盟、伊克昭盟境内，四、五、六师设在内蒙古东部的锡林格勒盟境内；由于锡林格勒盟草原地区不适于发展农业和超量发展畜牧业，内蒙古兵团不得不将四师从锡林格勒盟迁到了巴彦淖尔盟，使“东三师、西四师”的格局变成了“东二师、西四师”的态势。

1971年，内蒙古兵团已有41个团（包括2个工业团和4个相当于团级的工矿企业）职工为10.1万人，其中有知识青年7.55万人，复员转业军人和留厂职工2.57万人，现役军人近6千人，另有家属3.8万人，共计14.5万人。

1972年，内蒙古兵团总人数为17万人，职工（包括知识青年）13万人。

至1975年，内蒙古兵团下设农牧业团35个，厂矿企业单位34个，在职人员11万余人。