薛嶽說：“放棄廣西，有膽識。這叫破釜沉舟，置之死地而後生。”
張發奎一敲桌子：“還愣著幹什麼，快去做準備啊。我們全軍出動。”
5月22日，張桂聯軍揮師入湘，如入無人之境。蔣介石急令江西魯滌平部入湘支援何鍵。魯部才到贛湘邊境，李宗仁所率第一方面軍已兵不血刃而得重鎮衡陽。旗開得勝。緊接著，白崇禧令張發奎率第四軍抄襲醴陵，第十五軍向淥口、株洲開拔，第七軍向衡山、湘潭前進。
醴陵之戰是一場重要的戰役。張發奎迅速做出部署，讓韓漢英團、吳奇偉團，配備兩門大炮，擔任正面進攻，薛嶽團為預備隊。
戰鬥首先在醴陵南端的泗汾地區展開，激戰一整天，正面攻擊部隊遭到何鍵部的頑強抵抗，沒有取得成效。
到了深夜，張發奎來到薛嶽團部，商量對策，攤開作戰地圖，兩人研究了一番。
薛嶽說：“摸夜營是我的拿手好戲，不如我帶一支尖刀營上去。”
張發奎說：“不可魯莽。要幹就幹得漂亮點。你看這樣行不行？你帶一支隊伍由右面高地迂迴前行，包圍何鍵的湘軍，斷他的後路。我帶兩個團從正面進攻，包他的餃子。”
薛嶽說：“真是妙計！”
薛嶽依計而行，從自己的團中挑選了一支精銳部隊，配備了充足的彈藥，神不知鬼不覺地繞過右面高地，摸掉敵的哨兵，佔領了淥水橋，迅速用火力控制了橋的南面。
一切就緒，薛嶽朝天打響了三顆紅色訊號彈。
張發奎見訊號彈升起，知道包圍圈已形成，立即發動全線總攻擊。
霎時間，槍炮聲、喊殺聲一片。薛嶽端著機槍，帶著敢死隊衝殺在最前面。何鍵部隊多面受攻，難以抵擋，全線動搖，終於大敗而潰逃。
第四軍大獲全勝，繳獲甚多，**，進至平江，一路都沒有遭遇抵抗。
與此同時，友軍也頻頻告捷。第十五軍在佔領湘潭後，於6月5日進入長沙。6月8日，白崇禧率第七軍佔領岳陽，前鋒進入湖北，克復武漢已是指日可待。
然而，人算不如天算。此時戰爭出現變故。
在這次作戰中，桂軍中，黃紹竑的桂軍一部因在後方剿匪，沒有跟李宗仁、白崇禧、張發奎的隊伍一起前進，出發時間稍晚了一些，兩部之間便出現了空檔。
蔣介石聽說長沙被攻佔後，急電廣東的陳濟棠、陳銘樞派兵北上，合擊張桂聯軍。陳濟棠迅速派蔣光鼐、蔡廷鍇部從韶關沿粵漢鐵路北上，於6月10日乘虛搶佔衡陽，把桂軍前鋒和後隊截為兩段。黃紹竑見自己的兵力單薄，一時不能將衡陽奪回，即用電報與前方李、白商量，希望他們回師先擊敗衡陽粵軍，再行北進。
李宗仁、白崇禧正在考慮北進武漢還是回師救黃的時候，薛嶽獻上一計，現蔣軍大都參與中原大戰，駐防蘇浙者甚少，我軍不如移兵東南，直取南京，吸引蔣主力，以圍魏救趙之策，擺脫困境。
這項建議可謂是一個出人意料的奇招。如果實施成功，可讓敵手始料不及，但這也是步險棋，遭到大部分軍官反對，未被採納。
張桂聯軍最後決定回師，先奪回衡陽再說。後來證明這是一個錯誤的決定。
粵軍見張桂聯軍南迴，迅速退守衡陽，於是，兩軍在衡陽展開硬碰硬的決戰。
7月1日，李宗仁下令總攻，白崇禧指揮第四、第七兩軍和第十五軍為左翼，黃紹竑指揮兩個教導師為右翼，在洪橋北面的五塘，發動猛攻。戰鬥開始後，張桂聯軍攻勢凶猛，但經過兩夜三天的苦戰，仍拿不下衡陽，部隊損失十分大。
第四天，粵軍大舉反攻。打前鋒的許宗武師阻擋不住，先退了下來，白崇禧嚴令第四、第七兩軍穩住陣腳。幾經衝鋒，傷亡慘重，第四軍副師長李漢炯、第七軍第八師師長梁重熙相繼陣亡，被迫全線大撤退。
在撤退途中，他們又遭到粵軍飛機的掃射，整個部隊頓時一片混亂，潰不成軍，狼狽不堪。張發奎逃至祁陽熊飛嶺時，高聲叫喊：“官兵有心者隨來！”