为了完成灭吴大业，晋武帝在战略上做了充分准备。早在公元269年，他就派羊祜坐守军事重镇荆州，着手灭吴的准备工作。羊祜坐镇荆州后，减轻赋税，安定民心，荆州与东吴重镇石城相距最近，晋军采取了“以善取胜”的策略，向吴军大施恩惠。由于孙皓挥霍无度，部队士兵常常领不到军饷，连饭也吃不饱。羊祜命人向吴军送酒送肉，瓦解吴军。这样，不时有吴军前来投降，羊祜下令说：吴军来要欢迎，走要欢送。有一次，吴将邓香被晋军抓到夏口，羊祜部下坚持要杀掉，羊祜不但不杀邓，而且还亲自为其松绑，把邓香送了回去。有时，吴军狩猎打伤的野兽逃到了晋军领地，晋军也把这些野兽送到吴军帐内。正是由于这样的“厚”爱，东吴将领们的心已经一步步趋向晋军。
晋武帝在襄阳一边命羊祜以仁德对吴军施加影响，一边在长江上游的益州训练水军，建造战船。经过长达10年时间的充分准备，公元279年，晋军开始向东吴展开大规模的进攻。为了迅速夺取胜利，晋军分五路沿长江北岸，向吴军齐头并发。第六路晋军由巴东、益州出发，沿江东下，直捣吴军都城建业。20万晋军直扑东吴。东吴守军，在巫峡钉下了无数个锋利无比的、长十余丈的铁锥，在江面狭窄处用粗大的铁链封锁江面。晋军先用大竹排放入长江，晋军在船上载了无数根数丈长的用麻油浇灌的火点燃火炬，熊熊烈火能够把铁链烧断。就这样，东吴长江的防守设施被一个个排除了。
在第六路晋军进攻东吴时，为了吸引守卫建业的吴军兵力，安东将军王浑率一路晋军，由北向南，直取建业。孙皓忙命丞相张悌统率主力渡江北上，迎击王浑，结果沿江东下的晋军乘机攻占了建业。
由于晋武帝准备充分，时机恰当，战略正确，前后仅用了四个多月，便夺取了灭吴战争的全部胜利。从此，东吴的全部郡、州、县，正式并入晋国版图。
公元280年，三国鼎立的局面完全结束了。晋武帝司马炎终于统一了全国，结束了八十年的分裂局面。
