經雙方不斷協商與溝通、折衝，國務院在民國40年（1951年）3月底才同意在中華民國設立一軍事顧問團，初名為：「駐臺軍事援助顧問團」，但仍堅持這個軍事顧問團必須由駐華大使館管制，不受美軍遠東總司令指揮。4月底，國務院與國防部終於達成最後協議，定義顧問團的性質為在駐華代表的領導下，指揮協調並建議與軍援計畫有關事宜。同時規定顧問團的各項建議，應經由遠東區總司令送給華府各相關軍事單位，當然顧問團也可以直接與遠東區總司令部聯繫所有後勤支援事宜。達成協議後，全新的美軍顧問團團長蔡斯將軍於民國40年（1951年）5月1日抵臺履新，顧問團的團本部出設於總統府內，之後再遷至信義路原AIT（American Institute in Taiwan／美國在臺協會）舊址內，特種顧問團也在完成階段任務後於在9月底結束任務離臺返美。
美軍顧問團的組織結構
（1）顧問團團本部。於民國40年（1951年）成立之初，於團長、副團長、參謀長之下，分設第一、第二、第三、第四等四個業務組。民國49年（1960年）12月，「駐臺軍事援助顧問團」更名為：「美駐中華民國軍事援助顧問團」。一份報告認為，從民國39年（1950年）到民國58年（1969年），美國對中華民國的軍事援助金額，最高可能來到31億9,000萬美元（註三）。
（2）美軍顧問團各軍種分組：
陸軍顧問組，於民國40年（1951年）5月1日成立，辦公室就設於陸軍總部內。海軍顧問組，於民國40年（1951年）5月1日於左營成立，國49年（1951年）5月由左營遷回臺北的海軍總部內。空軍顧問組，於民國40年（1951年）6月1日成立，辦公室位於仁愛路之空軍總部內。聯勤顧問組，同樣也是在民國40年（1951年）成立。最初設有──財務、軍醫、運輸、通信、兵工、測量、工兵、一般等八個不同的兵科小組。民國43年（1954年）2月16日裁撤，原本的任務由陸軍組兼辦。民國45年（1956年）5月19日，因業務需要又重新恢復。民國49年（1960年）5月，改名為：「生產顧問組」。同年8月，又改回原名：「聯勤顧問組」。民國61年（1972年）1月，再改名為：「聯勤首席顧問」（註四）。
值得附帶一提的是，國軍在慶典閱兵時所使用的──「分列式進行曲（avanciermars）」，就是由駐臺美軍顧問艾理生（Harold L. "Lin" Arison，1919～1998，當時為准尉）於民國43年（1954年）改編自日耳曼進行曲的一首軍樂而來的，隔年（民國44年／1955年）正式成為國軍在閱兵典禮中演奏所使用的《分列式進行曲》。此外艾理生還積極爭取美援經費，在政工幹校（今國防大學政戰學院）設立「軍樂人員訓練班」，陸續開辦軍樂人員指揮、示範演奏等班隊，藉由現代樂隊訓練，讓國軍軍樂發展從無到有快速邁入新時代。
