Theo quyết định Bộ Quốc phòng công bố ngày 15/12 tại TP Pleiku, Quân đoàn 34 được thành lập trên cơ sở hợp nhất Quân đoàn 3 (Binh đoàn Tây Nguyên) và Quân đoàn 4 (Binh đoàn Cửu Long).
Quân đoàn mới được xác định là đơn vị chủ lực cơ động chiến lược, tổ chức theo hướng tinh, gọn, mạnh, tiến lên hiện đại. Thiếu tướng Nguyễn Bá Lực, Tư lệnh Quân đoàn 3, giữ chức Tư lệnh Quân đoàn 34; thiếu tướng Lê Minh Quang, Chủ nhiệm Chính trị Quân khu 9, làm Chính ủy.
Tại buổi lễ, đại tướng Phan Văn Giang, Bộ trưởng Quốc phòng, đã trao tặng Quân kỳ Quyết thắng cho Quân đoàn 34 và nhấn mạnh đây là chủ trương lớn của Đảng, Nhà nước nhằm xây dựng quân đội "tinh, gọn, mạnh". Quy mô tổ chức, nhiệm vụ quân đoàn mới sẽ lớn hơn, trang bị nhiều vũ khí, phương tiện hiện đại.
Quân đoàn 3 thành lập ngày 26/3/1975, là một trong quân đoàn chủ lực của Bộ Quốc phòng. Sau năm 1975, đơn vị tham gia nhiều chiến dịch lớn như truy quét Fulro, Khmer Đỏ và giải phóng Campuchia. Bộ Tư lệnh Quân đoàn 3 đóng tại TP Pleiku.
Quân đoàn 4 thành lập ngày 20/7/1974, cũng là đơn vị quân đội chủ lực, tham gia nhiều chiến dịch lớn như chiến dịch Hồ Chí Minh, bảo vệ biên giới Tây Nam, đánh Khmer Đỏ. Bộ tư lệnh Quân đoàn 4 đóng tại TP Dĩ An, Bình Dương.
Kế hoạch sắp xếp, tinh gọn theo Nghị quyết 18, Bộ Quốc phòng là một trong 8 bộ và cơ quan ngang bộ được duy trì, song phải sắp xếp, tinh gọn tổ chức bộ máy.
