上高位於錦江的上游，俯瞰贛東平原。日軍佔領上高，即有助於進攻長沙，又可以憑此進攻贛南。1941年三月，日軍調集了第33師團、第34師團及第20混成旅團，共約65000人，由日軍第11軍司令官園部和一郎指揮，採用分進合擊戰術，分南、北、中三路向上高撲來。國軍則由第9戰區副司令長官羅卓英，集中第49、第70、第73、第74軍五個軍共十萬餘人的兵力，在上高外圍設置阻擊防線。 15日，北路日軍第33師團由安義向奉新、上高方向進犯，攻陷奉新。18、19日，第33師團進至上富、若竹坳附近，遭我軍第70軍伏擊，蒙受重大傷亡，不得
不撤回奉新。 南路日軍自贛江北岸發起進攻，沿錦江南岸向西進犯，遭我軍第70軍第107師和第74軍第51師重創。21日，日軍被及退回錦江以北 16日，中路日軍（第34師團）沿錦江北岸向高安方向進犯，18日攻佔高安，並繼續向西攻擊。21日，我軍第74軍在棠浦、泗溪之線英勇阻擊來犯的日軍。同時，第49軍與第74軍第51師渡贛江北上，與第70軍主力合力攻擊日軍側翼。 自22日起，由於南北兩路均被擊退，中路日軍已是孤軍深入，因此急攻上高。22日至24日，日軍配合數十架飛機的猛烈轟炸，強攻上高外圍74軍陣地，該軍拚死阻擊，多次與攻入陣地的日軍進行白刃肉搏，一日我方死傷即達4000以上。由於第74
軍面對日軍挾火力優勢之強攻，抵死不退，給予我軍第70軍、第72軍和第49軍襲擊日軍兩翼之機會，趁勢將其包圍。 日軍急令第33師團及第20混成旅團馳援。25日，來援的日軍第33師團開始撲攻官橋街、棠浦，被圍之第34師團趁機向該地撤退，兩路日軍合兵一處。但國軍趁勢實施反包圍，26日夜，第74軍協同友軍各部，將日軍包圍於官橋街及南茶羅一帶。28日，國軍以第74軍為先鋒，向被包圍在官橋街的日軍猛攻，激戰到下午，該地日軍全被殲滅，第34師團少將指揮官巖永被擊斃。。四月1日，被圍日軍在飛機掩護下，向斜橋方面突圍，國軍開始追擊。自2日至8日，乘勢收復子西山、萬壽宮、奉新、長埠、宋埠、平洲、弓尖等要地。
日軍被迫退回戰前位置。 此次戰役，擊破日軍33師團，重創日軍第34師團及獨立第20混成旅團。該役中，我軍第74軍表現最為突出，其代師長張靈甫因表現優異，於當年冬天升任國軍74軍第58師師長。第74軍亦因此戰功，榮獲國民政府第一號武功狀和最高榮譽「飛虎旗」。 關於此次會戰，可引用何應欽的說法為代表： 「上高會戰在今後作戰指導上非常重要，其影響之大，莫可比擬。敵人採取分進合擊態勢，即可謂外線作戰。我軍始終固守上高一帶既設陣地，依內線作戰之原則，先擊潰其夾擊之一翼，然後轉向其主力包圍攻擊，率將其各路兵力悉行殲滅，可謂為開戰以來最精彩之作。」