在蘇聯顧問的幫助下，同時向外徵調優秀教授約百名，並決定以──「西南軍區第二高級步兵學校（原西南軍政大學）」、「華東軍區司令部（軍事）科學研究室」和「志願軍第三兵團部分幹部」為建院的組織基礎，肩負中共國防科技發展的「哈爾濱軍事工程學院」（簡稱「哈軍工」）就於1953年9月1日正式開學（成立）。學校成立之初下設五個系和一個預科總隊，這五個系分別是──空軍工程系（一系）、砲兵工程系（二系）、海軍工程系（三系）、裝甲兵工程系（四系）、工程兵工程系（五系），共23個專科。1959年12月31日，中共中央決定將其中──砲兵、裝甲兵、工程兵三個學系分出，分別成立──砲兵工程學院、裝甲兵工程學院、工程兵工程學院。其中砲兵工程學院在1962年1月奉總後勤部、砲兵司令部聯合通知，移出哈軍工，成立新的「砲兵工程學院」，並遷至南京高射砲兵學校校址和砲兵預校校址，9月，學院在南京孝陵衛正式開學。1966年1月，砲兵工程學院改稱「華東工程學院」、1984年7月，「工程學院」改名為「華東工學院」、1993年2月，「華東工學院」再改名為「南京理工大學」。（註二十三）比較特殊的是，前中國科學院院士任新民（1915～2017，有「兩彈一星元勛」、「中國航天四老（屠守鍔、黃緯祿、梁守槃和任新民）」美譽），不但曾參與「哈爾濱軍事工程學院」的創建，也在「南京理工大學」任教過。2005年正逢任老90大壽，「南京理工大學」除了頒發「第一號傑出校友證書」給他外，也特別在機械工程學院門廳立了一座銅像來表揚他的傑出貢獻（註二十四）。
至1966年因中共改變政策，先將「哈爾濱軍事工程學院」由軍事院校改為一般民間學校，隨後卻在「文化大革命」中遭到嚴重破壞。1969年，在林彪發佈的準備打仗的《一號命令》（1969年中蘇在珍寶島打了一仗，當時毛澤東與林彪擔心蘇聯可能聯合臺灣攻打中共）之後，「哈爾濱軍事工程學院」內遷長沙，1970年分拆後成立──「國防科學技術大學（原名：「長沙工學院」／1970年成立、1978年正式擴大更名為：國防科技大學、1999年4月，再改組為：國防科學技術大學）」、「中國人民解放軍裝甲兵工程學院」、「海軍工程大學」、「中國人民解放軍理工大學工程兵工程學院」、「中國人民解放軍防化學院」、「哈爾濱工程大學（哈工程）」、「西北工業大學（西工大）」與早在1966年已移出「南京理工大學」等校。根據紀錄統計，至1966年建制撤銷前，「哈爾濱軍事工程學院」僅招生13屆，但畢業校友中入選中國科學院院士和中國工程院院士達40餘人，有超過200人被授予將官軍銜（軍階）。中國大陸《人民網》因此稱其為「二十世紀中國影響最大的十所學府之一」。
