三国后期，魏国大权先后被司马懿的儿子司马师和司马昭把持，最终魏国的权力之杖落入了司马氏的手中。
司马炎的祖父司马懿，河内郡温县人，其智慧过人。曹操死后，司马懿历任魏文帝曹丕、魏明帝曹叡两代总管朝政的重臣，主管军事，统率魏军，同东吴、蜀汉对峙。公元239年，魏明帝死，8岁的曹芳即位，由司马懿和曹爽共辅幼主。曹爽明知司马懿实力比自己强，对自己有威胁，所以，决定除掉司马懿。司马懿见势不妙，声称自己年老多病，力不从心，回乡养病，实际上是韬光养晦，伺隙而动。公元249年，曹爽陪伴魏帝曹芳到洛阳城南的高平陵去祭祀。司马懿利用这一时机，假借皇太后的命令，在都城内发动政变，其长子司马师指挥早已蓄养的3000名敢死队，关上洛阳城所有的城门，占据武器仓库，接管了守卫皇宫的禁军。最后，魏帝迫于司马懿的威逼，只好诛杀曹爽息事。曹魏的军政大权又重新转移到司马懿手中。
公元251年，司马懿病逝，其长子司马师任抚军大将军、录尚书事，继续辅政。这时，魏帝曹芳已经成年，他不满司马师专权，与几位大臣密谋要杀掉司马师。由于走漏风声，司马师首先动手，诛杀参与密谋的大臣，曹芳也遭废黜，另立年仅14岁的曹髦为帝。不久，司马师死，其弟司马昭接任其职，朝廷里的要事都必须经过司马昭之手。随着年龄的增长，曹髦不断成熟，他对司马氏也越发愤慨了。
公元260年五月，曹髦命令宫中宿卫士兵，捕杀司马昭。司马昭派大将贾充率兵将曹髦杀死，司马昭实际掌握了皇权。但社会上还有相当一批人对这一局面很不满意。司马昭一边网罗文人学士，为自己登基制造舆论，一边积极准备征讨三国之中力量较弱的蜀汉。公元262年，司马昭派大将钟会、邓艾率兵18万，进军蜀汉。捷报频频传来，魏帝曹奂下诏将司马昭封为晋公，拜为相国，并赐“九锡”，即最华贵的车马、王袍似的衣服、乐器、朱红色的门户、有屋檐的台阶、300名卫兵、先斩后奏的刀斧、表示征伐的弓箭、祭祀用的香酒。这九锡是古代帝位更替的前奏，往往先授九锡，再行帝位禅让之礼。第二年，蜀汉灭亡，司马昭因功又封为晋王。
司马炎是晋王司马昭的长子，按照封建时代立嫡以长的制度，司马炎本该是合法的王位继承人，但其父司马昭把司马攸过继给自己的哥哥司马师为子，并打算立之为世子。司马昭每次见到司马攸，便拍着晋王的宝座对他说：“这属于桃符的宝座。”宠爱之情溢于言表。正是在这种复杂的政治背景下，不甘寂寞的司马炎开始了他争夺王位的活动。
齐王司马攸为人清和平允、亲贤好施，喜爱古代典籍，并且雅好文章，是一位有着浓厚的艺术气质的儒雅之士。与司马攸相比，司马炎却似乎是一个天生的政治家，他在气质上几乎完全秉承了父祖的天性，既有足以左右形势的谋略，又有着一副宽厚仁慈的外表。政治家的天性加上客观上的优势，使得他在复杂的宫廷斗争中游刃有余。同时在许多重臣和历史上废嫡长引起祸乱的事例重压下，司马昭在晚年时只好接受了大臣们的建议，立司马炎为世子。
公元265年，司马昭病死，司马炎继承了晋王位。同年十二月，经过精心准备之后，仿效曹丕代汉的故事，司马炎的心腹太尉何曾、卫将军贾充等人，带领满朝文武官员再三劝进，司马炎照例多次推让，然后才接受魏帝曹奂禅让，封曹奂为陈留王。于公元266年农历二月八日，登上帝位，改国号为晋，史称为西晋，晋王司马炎成了晋武帝。
晋朝建立魏国灭亡的事实，没有使司马炎心里感到轻松。他很清楚，虽然他登上王位宝座，但危机仍然存在。从内部看，他的祖父、父亲为了给司马氏家族夺取帝位铺平道路，曾经对曹操以后的曹氏家族以及附属势力进行了残酷的屠杀，这件事所造成的阴影至今仍然横亘在人们的心中；从外部看，蜀汉虽平，孙吴仍在，虽说此时的东吴已不足与晋抗衡，但毕竟也是一个不小的威胁。内忧外患告诉司马炎，要想巩固政权，进而完成吞并东吴、统一中国的大业，就首先要强固统治集团本身的凝聚力，而要达到这个目的，就必须采取怀柔政策。为此司马炎在即位的第一年，即下诏使已成为陈留王的魏帝载天子旌旗，行魏正朔，郊祀天地礼乐制度皆如魏旧，上书不称臣，同时又赐安乐公刘禅子弟一人为驸马都尉，第二年又解除了对汉室的禁锢。这不但缓和了朝廷内患，尤其是消除了已成为司马氏家族统治对象的曹氏家族心理上的恐惧，而且还安定了蜀汉人心，进而为赢得吴人的好感、为吞并东吴取得了主动权。
为了尽早地使国家从动乱不安的环境中摆脱出来，为统一奠定牢固的基础，无为与宽松政策成了西晋之初的立国精神。这种立国精神在国家的各种领域中充分地体现出来。公元268年，司马炎诏书中明确指出：“为永葆我大晋的江山，现以无为之法作为统领万国的核心。”同年，又向郡国颁下5条诏书：一曰正身，二曰勤百姓，三曰抚孤寡，四曰敦本息末，五曰去人事。当年，曹魏王朝的奠基者曹操继东汉的动乱政治之后，为了安定人心，恢复国力，曾实行了比较宽松开放、节俭求实的治国方略。但到了曹丕，政治渐趋严厉，社会风气亦腐败，魏武帝当年的风范已是明日黄花。皇帝往往为了满足自己的私欲，不断把强大的物质重负转移到百姓的身上，而长期的战乱不但使百姓处于惨淡的生计之中，而且心理上也增添了一种恐惧与疲惫之感。在这种情况下，司马炎反其道而行之，提出无为而治的强国方略是最适合不过的。
西晋成立之初，晋武帝为了收拢人心，立即大封功臣，许多大家族也都被封为公侯。短短几年时间，晋武帝共封了57个王、500多个公侯。蜀汉灭亡不久，晋武帝为了稳定巴蜀人心，又任用了一批原在蜀汉供职的官吏为朝官。晋武帝没有采取“一朝天子一朝臣”的惯用手法，而是采取拉拢、收买人心的办法，稳定各级官吏，以确保社会稳定地过渡。因为晋武帝还看到，蜀汉虽亡，东吴未灭，全国还未统一。于是他开始运筹帷幄，准备击灭东吴，结束全国的分裂局面。
早在三国鼎立之时，魏的势力已超过蜀、吴，如以人口计，魏约占全国人口4/7，蜀、吴合占3/7。公元263年，魏灭蜀之后，三国鼎立变成了南北对峙，魏的力量更加强大。晋武帝代魏之后，雄心勃勃，“密有灭吴之计”，准备出兵灭吴，统一全国。
西晋全国正处于一种积极的态势之中时，吴国却是在走下坡路。吴主孙皓的荒淫、残暴使吴国丧失了重整旗鼓的机会。孙皓命令大臣的女儿要先经过他的挑选，漂亮的入后宫供他一人享受，剩下的才能谈婚论嫁，这使他丧失了大臣们的支持，自毁长城，最终成了孤家寡人。一个劝谏他的大臣不但没有受到表扬，反而被他用烧红的锯条残忍地锯下了舌头，其残暴程度与商纣王没有任何区别。孙皓杀人的方法很多，很残忍，像挖眼、剥脸皮和砍掉双脚，等等。孙皓的残暴注定了吴国要在他手上灭亡。由于孙皓的残暴，手下的将领们也对他丧失了信心，纷纷投降西晋。西晋的大臣们见吴国国力下降，政局不稳，也纷纷劝说司马炎趁机灭掉吴国。
但是，以太尉录尚书事贾充为首的保守派反对伐灭吴国，他们认为，吴有长江天险，且善水战，北人难以取胜。且近几年来西鲜卑举兵反晋，此时对吴作战，并“非其时”。而羊祜、张华、杜预等人则认为，吴帝孙皓腐化透顶，他不但对广大人民残酷剥削、镇压，而且在统治集团内部也排除异己，用刑残酷。孙吴目前是“上下离心”，如此刻出兵，“可不战而胜”。如果错过机会，“吴人更立另主”，励精图治，再去灭吴就相当不容易了。两派意见，针锋相对，这样，一个极其严重的问题就摆在了晋武帝面前：是否出兵灭吴，统一全国？晋武帝也意识到，自秦汉以来，统一已成为人类历史的主流，广大平民百姓要求统一，渴望和平。因此，晋武帝坚定地站在主战派一边。
公元279年，他力排众议，发令讨伐东吴。贾充等人又拼命反对，晋武帝大怒，迫使“充免冠谢罪”。由于贾充位及三公，影响很大，晋武帝为了争取保守派一同伐吴，便委任贾充为讨吴诸军的元帅。谁知贾充“自言老衰，不堪元帅之任”，拒绝受命，以此施加压力。晋武帝这次并未发怒，而是很开明地说：“君若不行，吾便自出。”就是说自己要亲自出任元帅。贾充见状，只好领命，出镇襄阳。战争进行到第二年春天，晋军攻下武昌，但吴军主力并未受到重挫，且春水上涨，晋军中又流行疾病，贾充上表请求撤兵，而张华则坚持继续进军，贾充恨得咬牙切齿，要“腰斩张华”，“以谢天下”。保守派另一要员荀彧也跟着奏请治罪张华。在保守派的强大压力面前，晋武帝毫不推卸责任，明确回答“此是吾意，华但与吾同耳”，拒绝退兵。
晋武帝为了完成灭吴大业，在战略上做了充分准备。早在公元270年，他就派羊祜坐守军事重镇襄阳，着手灭吴的准备工作。羊祜坐镇襄阳后，减轻赋税，安定民心。襄阳与东吴重镇石城相距最近，晋军采取了“以善取胜”的策略，向吴军大施恩惠。由于孙皓挥霍无度，部队士兵常常领不到军饷，连饭也吃不饱。羊祜命人向吴军送酒送肉，瓦解吴军。这样，不时有吴军前来投降，羊祜下令说：“吴军来要欢迎，走要欢送。”有一次，吴将邓香被晋军抓到，羊祜部下坚持要杀掉，羊祜不但不杀，而且还亲自为其松绑，把他送了回去。有时，吴军狩猎打伤的野兽死到了晋军领地，晋军也把这些野兽送到吴军帐内。正是由于这样的“厚”爱，东吴将领们的心一步步趋向晋军。
晋武帝在襄阳一边命羊祜对吴军以仁德施加影响的同时，一边在长江的上游益州加强训练水军，建造战船。据说，当时造的船有的大可容纳两千多人，上面可以驰马来往。经过长达七年时间的充分准备，公元279年，晋武帝下令开始向吴军展开大规模的进攻。为了克服长江天险，迅速夺取胜利，晋武帝部署五路兵马，沿长江北岸，向吴军齐头进发。另有第六路兵马，由巴东、益州出发，沿江东下，直捣吴军都城建业。长江上游的东吴守军，在巫峡80里长的湍急水流中，钉下了无数个锋利无比的、长十余丈的铁锥，在江面狭窄的地方，横拉着很多粗大的铁链，以封锁江面。晋军先用大竹排放入长江，奔腾的江水漂浮着巨大的竹排猛冲直下，埋在江里的铁锥被竹排拔离江底，完全失去了作用。对待封锁江面的铁链，晋军在船上载了无数用麻油浇灌的火炬，每根有十多丈长，遇到铁链，点燃火炬，熊熊烈火把铁链烧熔断裂。就这样，东吴长江的防守设施被一个个排除了。
晋武帝在部署六路兵马进攻吴军时，为了分散、吸引守卫建业的吴军兵力，先派王浑率一路晋军，由北向南，直取建业。孙皓不知是计，忙命丞相张悌统率主力渡江北上，迎击王浑，结果沿江东下的晋军乘机攻占了建业。晋武帝后来在评价这一战略时说：“令贼孙皓拼死自卫，不得分兵上赴，以成西军之功。”三百多年后，隋文帝杨坚兵分八路，渡江灭陈，也是借鉴了晋武帝这套作战方针。
由于晋武帝准备充分，时机恰当，战略正确，前后仅用了四个多月，便夺取了灭吴战争的全部胜利。唐代大诗人刘禹锡在追怀这场战争的情景时写道：“王潜楼船下益州，金陵王气黯然收。千寻铁锁沉江底，一片降幡出石头。”东吴从孙权立国开始，传了四主，共57年而亡。
从此，东吴的全部郡、州、县，正式并入晋国版图。三国鼎立的局面完全结束了。晋武帝司马炎终于统一了全国，结束了长达近百年的分裂局面。
