随太祖进攻荆州，徐晃独自率军驻扎樊城，扫荡中庐、临沮、宜城三县的敌人。与满宠到汉津征讨关羽，又与曹仁在江陵攻击周瑜。建安十五年（公元 210），徐晃统兵讨伐太原郡叛军，包围大陵县；攻下城池，杀死叛军首领商曜。

韩遂、马超在关中谋反，太祖派徐晃进驻汾阴县安抚河东郡；赐给他肉牛、美酒，让他回附近的家乡杨县为祖先上坟。太祖到潼关，担心不能西渡黄河，召徐晃询问办法。徐晃说：“明公您的大兵集结在此地，而敌人不另派兵扼守北面蒲坂的渡口，可见他们没有谋略。现在请给我一支精兵，从北面的蒲坂津渡河；去充当全军的先头部队，从黄河西岸截入敌军的内部，就可以制服敌人。”太祖说：“好！”即派徐晃率领骑兵、步兵四千人，从蒲坂渡河。渡河之后，徐晃的部队挖堑立栅还未完工，敌将梁兴就率五千多骑兵、步兵来抢攻；徐晃将他们击退，太祖大军得以渡河，打败了马超的势力。接着，太祖派徐晃与夏侯渊平定隃麋县、汧县的各氐族部落，同太祖在安定会师。太祖回邺县，派徐晃与夏侯渊平定鄜县、夏阳县的贼寇余党，斩了梁兴，接受三千多户敌方百姓投降。后来随太祖讨伐张鲁，另派徐晃去扫荡椟、仇夷各处山区的氐族人，逼使他们都投降。徐晃升任平寇将军，出兵解救被包围的将军张顺，攻破了贼寇陈福等人的三十多个屯兵据点。

太祖回到邺县，留下徐晃与夏侯渊在阳平关防御刘备。刘备派陈式等十多营的军队断绝了马鸣阁的栈道；徐晃独自领兵迎击，大破敌军。敌军被打得纷纷跳下山谷逃命，死了许多人。太祖听说后，非常高兴，授给徐晃节杖。发布嘉奖令说：“这一条栈道，是汉中的咽喉要地，刘备进攻这里是想断绝我们的内外联系，以便夺取汉中。将军您一举粉碎了刘备的计划，真是好事当中的好事啊！”太祖后来亲自到阳平关，撤出汉中的各路军马。

太祖派徐晃协助曹仁讨伐关羽，驻扎在宛城。碰上汉水泛滥，于禁等人的部队被淹没。关羽在樊城包围了曹仁，又在襄阳包围了将军吕常。徐晃的部下大多是新兵，很难与关羽对敌，便进军到阳陵陂后，暂时停下来等待后援。太祖又再派将军徐商、吕建等人去支援徐晃，传令说：“必须等兵马全部集中，再一起向前出击。”敌军在偃城驻守。徐晃率全军到达后，骗过敌人从小路深入敌后挖掘一条大堑壕，做出要截断敌人后路的样子；敌军烧毁自己的营寨逃跑，徐晃便占领偃城。他下令连接左右两面的营寨逐步向前推进，直到距离敌人的包围圈大约只有三丈左右的地方。还没有发起进攻，太祖又先后派殷署、朱盖等，一共十二营的部队增援徐晃。敌人包围圈的前头有营垒，另外在四冢还有营垒。徐晃扬言要攻打前头的守敌，却秘密地偷袭四冢。关羽看到四冢的阵地要被攻破，亲率五千步、骑兵出战。徐晃迎头痛击，关羽退走；徐晃乘胜追击趁势冲入敌军的包围圈，大破敌军，很多敌人跳下沔水而被淹死。

太祖下达嘉奖令说：“敌人使用堑壕鹿角层层包围，将军您作战获得全胜，又乘势攻进敌人的包围圈，杀死大量敌人。我用兵三十多年，也听说过古代善于用兵的战例，从来也没有长驱直入冲进敌人重重包围而获胜的。而且樊城、襄阳被包围的局势，比起春秋时的莒城、即墨来要严重得多；所以将军您的功勋，要超过孙武和司马穰苴了。”徐晃整顿军队凯旋回到摩陂。太祖亲自出城七里迎接徐晃，设宴庆贺。又举杯向他劝酒，慰劳他说：“保全樊城、襄阳，都是将军您的功劳啊。”当时各路军队都集中到了一起。太祖巡视各营，士兵纷纷离开队列争着来看太祖；只有徐晃的军营阵形整齐，全体将士站在队列中一动不动。太祖赞叹说：“徐将军，可以说是有名将周亚夫的风范了！”

文帝曹丕即魏王位，封徐晃为右将军，晋爵逯乡侯。文帝受禅称帝后，徐晃又晋封家乡所在的杨县侯。同夏侯尚到上庸讨伐刘备，大破敌人。文帝命徐晃镇守阳平县，转封他为阳平侯。

魏明帝即位，徐晃在襄阳抵御吴将诸葛瑾。因功增加封邑二百户，连同以前的共三千一百户。徐晃生病垂危，临死前吩咐用与时令相适应的平常衣服收殓他。

徐晃为人作风俭朴，小心谨慎。统率军队时总是远远就派出侦察兵，先造成敌人无法战胜的形势；然后才开始作战，一旦获胜就穷追不舍，将士常常顾不上吃饭。徐晃常叹息说：“古人顾虑遇不上英明的君主，现在幸而让我遇到了；应该一心建功效力，哪里能用心在个人的声誉上呢！”始终不多交朋友。

太和元年（公元 227）他去世。谥为壮侯。他的儿子徐盖继承了爵位。徐盖死后，儿子徐霸又继承爵位。明帝从徐晃的封邑中分出一部分，封他两个儿、孙为列侯。

起初，清河郡的朱灵，在袁绍手下担任将军，太祖征讨陶谦的时候，袁绍派朱灵统率三个营援助太祖，作战有功。作战结束后，袁绍派来的将领各自回去了。朱灵说：“我见到的人很多，没有像曹公这样杰出的，这真是英明的主上啊！既已碰上了，还要投奔谁呢？”便留下来不再离开。他所带的将士都仰慕太祖，全跟着朱灵留下来。朱灵以后也成为良将，名声稍次于徐晃；官做到后将军，封高唐侯。

评论说：太祖建立如此辉煌的武功，而当时的良将，以这五位居于前列。于禁最为威严稳重，但未能保持节操有始有终。张郃以用兵多变著称，乐进以骁勇果断扬名；但是对照他们的事迹，与所听说的声名并不相称：也许是生平事迹的记载有遗漏，不如张辽、徐晃的记载完备详尽吧。