269年（泰始五年），司馬炎除任命大將軍衛瓘、司馬伷分鎮臨淄、下邳，加強對孫吳的軍事佈置以外，又特地調任羊祜為荊州諸軍都督，假節，並保留他散騎常侍、衛將軍原官不變。當時，西晉和孫吳各有一個荊州，形成南北對峙局面。西晉的荊州包括今天的陝西、河南的一小部分和湖北北部地區。吳國的荊州則有今天的湖北和湖南的大部分地區。晉吳間的邊界線以荊州為最長，所以這裡是滅吳戰爭的關鍵地區。
羊祜到任後，發現荊州的形勢並不穩固。不但百姓的生活不夠安定，就連戍兵的軍糧也不充足。於是，羊祜首先把精力放在開發荊州方面。羊祜大量開辦學校，興辦教育，安撫百姓，懷來遠人。並與吳國人開誠相待，凡投降之人，去留可由自己決定。還禁止拆毀舊官署。當時風俗，官長如果死在官署之中，後繼者便說居地不吉，往往拆毀舊府，另行修建。羊祜認為，死生有命，不在居室，命令下屬，一律禁止。最主要的是設計使吳國撤掉了對襄陽威脅最大的石城駐軍，吳國石城駐軍離襄陽七百多里，常常侵擾邊境。羊祜深以為患，於是巧用計謀，使吳國撤銷了守備。然後羊祜他把軍隊分作兩半，一半執行巡邏戍守的軍事任務，一半墾田。當年，全軍共墾田八百餘頃。羊祜剛來時，軍隊連一百天的糧食都沒有，到後來，糧食積蓄可用十年。羊祜的這些措施迅速地安定了荊州的社會秩序，增強了軍隊的戰鬥力。晉武帝為表彰他的功績，下令取消江北所有的都督建置，授予羊祜南中郎將的職務，負責指揮漢東江夏地區的全部軍隊。
羊祜在軍中，常穿著輕暖的皮裘，繫著寬緩的衣帶，不穿鎧甲。鈴閣之下，應命侍衛計程車卒也不過十幾個人。並且，喜歡打獵釣魚，常常因此荒廢公務。有一天夜晚，他想出營，軍司馬徐胤手持柴戟擋住營門說：“將軍都督萬里疆域，哪能這樣輕心放縱，將軍的安危也就是國家的安危。除非我死了，今夜此門才得開。”羊祜正色改容，連連道歉，從此很少外出。[8]
不久，羊祜又被加封為車騎將軍，並受到開府如三司之儀的特殊待遇。羊祜上表固辭：“臣恭敬地看到加恩的詔書下來，提拔臣與三公同等，臣自出仕以來才十幾年，接受內外重任，官職顯赫而重要，臣常常因為自己的才智不能上進，不可久居過當的恩寵而日夜戰慄不安，榮耀變成了憂愁。臣聽說過古人之言，品德還沒有為眾人心服而受高爵，就會使有才之臣不能奮進;功業沒有使眾人歸附而享受厚祿，就不會使願為國家出力的臣民受到鼓勵。如今臣身為外戚，做事的成敗關係到國家時局，應警惕過多的恩寵，並不憂慮被朝廷遺忘。而宮中之詔枉發，給予臣超常的榮譽，臣有何功可以擔當呢？於心怎安呢？身居不稱的高位，不久將會跌落下來，到那時想守住先人的陋室，也不可能了。違抗詔命，是觸犯天子威嚴；曲心從命，又是如此犯難。古人有知過必舉的見知法，大臣之節，能進則進，不可進則止。臣雖屬小人之輩，也想緣用前人所誡，不忘此義。現在天下歸服於晉已經八年，天子雖
坐於側席以延攬賢才，鄉鄙賤人無所遺漏，然而臣不能推舉有德之人，引薦有功之士，使陛下知道勝過臣的人還多，沒有進入仕途的賢人還不少。假若還有像傅說那樣的賢人被遺忘在築牆者的行列，有像呂尚那樣的才士被遺忘在屠市垂釣的場所，而朝中議事者不以枉用臣為非，臣居高位而又無愧，這樣不是損失太大了嗎？臣竊居官位雖然很久，從未像今天這樣兼任文武要職受朝廷信任，居等同宰相的高位。況且，臣所見雖然狹小，光祿大夫李熹有高風亮節，行為公允正直；光祿大夫魯芝，潔身寡慾，與人和諧而不苟同；光祿大夫李胤，清廉簡樸而坦誠，身在朝廷，效力國家，守君臣之禮至老不渝。他們雖歷任內外要職，而清廉簡樸如貧寒人家，但都沒有榮獲我這樣的寵位，臣超過他們，怎能滿足天下人的期望，稍增日月之光呢？因此，臣決心守此臣節，不願苟得高位。當今天下統一的道路尚未暢通，邊陲戰事時有發生，乞求保持原來的職務，使臣能迅速回到荊州屯墾戍邊，不然的話，在京城留連日久，必然於對付敵國方面考慮不周。匹夫之志，有時也不可強奪。”
但朝廷未同意他的辭讓。這一年，羊祜四十九歲。
公元270年（泰始六年），吳國在荊州的都督換上了名將陸抗。陸抗駐樂鄉（今湖北江陵西南）後，便上書說：“為臣聽說君主德行相等，而民眾多者勝過民眾少者，國力相等，則安定之國制服混亂之國，這大概是六國所以被強秦兼併，西楚所以為漢高祖打敗的原因罷。如今敵國跨據四方，並非只有關右之地；割據九州，豈只鴻溝以西的土地而已。我國外無盟國可援，內無西楚那樣強大，政務缺乏生氣，百姓不得安定，而議論國事者所依恃的條件，只不過大江高山，圍隔著我國的疆域，這不過是守衛國家最次的條件，不是明智之人首要考慮的事情。臣下常常追憶戰國各國存亡的跡象，近觀劉漢王朝滅亡的徵兆，考證典籍，應驗實事，深夜撫枕不能入睡，面對飯菜忘記進餐。從前匈奴未被破滅，霍去病辭卻皇上為他所造府第；漢朝治國之道未得完美，賈誼為之悲哀哭泣。況且我為王室血緣所出，世代蒙受光榮的恩寵，個人的身名安危，與國家休慼相關，生死離合，義無苟且，早晚憂慮，想到這些就十分心痛。奉事君上的道義在於犯顏直諫而不欺瞞，身為臣下的節操不在屈膝卑躬而殉節，謹陳當今急務十七條如左。”十七條失去原本，故此不作記載。
當時宦官何定把持大權，干預朝政。陸抗上書說：“為臣聽說建立國家、繼承家業，不用小人，聽小人譖讒，用奸邪之才，《堯典》對此作過告誡，因此詩人為此寫詩怨刺，仲尼為此而嘆息。春秋以來，降至秦漢，朝代滅亡之徵兆，沒有一個不是由此而起。小人不明治國之道理，見識淺陋，即使他們竭盡心力保全名節，也不能勝任，更何況這類人向來頗存奸邪之心，愛憎情感變化無常！如果害怕失去他們，則此類無所不至。如今委他們以朝廷重任，借他們以專制權威，還希望出現和樂的盛世之音，清明純正的社會風氣，這是絕不可能之
事。如今任職官吏，特殊才能者雖少，然而他們或是王室貴族的後代，自小受到道德教化的浸染，或是清苦自立之人，其資質才能值得任用，自然可以根據他們的才幹授官任職，以此抑制、黜退小人，然後社會風氣才可純淨，朝中政務不致沾汙。”但不為吳主孫皓採納。
吳主孫皓用諸將之策，多次令吳軍入侵晉國邊界，使百姓疲弊。陸抗認為有弊無利，便於公元272年（鳳凰元年）上書說：“為臣聽說《周易》重視順應時勢，《左傳》讚美伺機進擊，所以夏桀罪孽甚多商湯王才出兵討伐，商紂荒**暴虐周武王才授鉞出征。如果時機不到，則商湯王寧肯被囚禁於玉臺作憂傷的思慮，周武王寧願在孟津撤軍而不作輕妄舉動。如今我們不致力於富國強兵，勤勉農耕廣積糧食，讓文武人才得以施展運用，百官衙門公署不得玩忽職守，使黜陟分明以激勵各級官吏，使刑罰得當以表明勸懲獎抑，以道德教育各級官吏，用仁義安撫全國百姓，然後順承天命，利用時機，席捲天下。如果聽任諸將捨身求名，窮兵黷武，功輒耗費數以萬計的國家錢財，使士卒困苦憔憊，敵人並沒有因此衰敗，而我們自己卻已睏乏不堪！如今只去爭取帝王的資格，而被小小利益遮障雙眼，這是臣子的奸惡，不是為國之良策。過去齊、魯兩國交戰三次，魯國勝了兩次而很快就滅亡了，這是什麼原因？因為兩國大小實力強弱不同。何況如今用兵征戰所獲得的戰果，還不能補償所遭受的損失。況且依仗兵力沒有人民的支援，這是古代已有的明鑑，實在應暫停出兵征戰的計劃，來積蓄軍民的力量，靜待時機，就不會有什麼悔恨的事發生。”但孫皓依舊不採納。
後陸抗聞武昌左部督薛瑩徵被捕下獄。陸抗上書說：“才德出眾者，國家之瑰寶，社稷之財富，各種政務有了他們才有條理秩序，四方人才有了他們才能教化成德。已故大司農樓玄、散騎中常侍王蕃、少府李勖，都是當世優異人才，一代顯著人士，他們起初蒙受主上恩寵，從容任官行職，而後來不久即被誅殺，有的被滅族絕嗣，有的被棄荒遠之地。《周禮》上有赦免賢人之刑法，《春秋》裡有寬恕善人的義理。《尚書》有言：‘與其殺害無辜，寧可違犯成法’。王蕃等罪名尚未被確定，即被處以死罪，他們心懷忠義，卻身遭極刑，豈不令人心痛！且受刑死去，本已無知覺，竟然還要將其焚屍揚灰，拋屍流水，露屍水邊，恐怕這並非先王之正典，或許為甫侯立法時所要戒免。因此百姓哀痛驚懼，士民同悲。王蕃、李勖已死，後悔已來不及，我誠懇地希望陛下赦免樓玄出獄。而近聞薛瑩又遭逮捕。薛瑩的父親薛綜曾為先帝獻策，輔佐過文皇帝，到薛瑩繼承父業，注意品行的修養，如今坐罪，實屬可以寬恕。為臣擔心有關主管官員不知事情詳情，如再將他殺害，更加失去百姓的期望，乞求主上施恩，原諒赦免薛瑩的罪過，哀憐眾犯，清澄法綱，則是天下的幸事。”
陸抗雖多次上疏陳言，以匡不逮。但均不為孫皓採用，陸抗鞭長莫及，也只好恪盡職守，慎保邊圉。
（本章完）